1 00:00:02,000 --> 00:00:07,000 2 00:00:02,654 --> 00:00:04,656 [stor orkesterfanfar spelar] 3 00:00:08,000 --> 00:00:13,000 4 00:00:27,636 --> 00:00:29,681 ♪ ♪ 5 00:00:41,389 --> 00:00:43,217 [fåglarna kvittrar och ropar] 6 00:00:48,657 --> 00:00:50,833 -[burbling] -[trilling] 7 00:00:55,055 --> 00:00:57,057 [VCR klickar och surrar] 8 00:01:00,582 --> 00:01:02,018 [projektorn klickar] 9 00:01:04,847 --> 00:01:09,286 Nu dagens datorer är fullständiga idioter, 10 00:01:09,330 --> 00:01:12,115 men detta kommer inte att vara sant i en annan generation. 11 00:01:12,159 --> 00:01:14,857 De kommer att börja tänka, och så småningom kommer de att göra det 12 00:01:14,900 --> 00:01:17,599 helt överväga deras skapare. 13 00:01:17,642 --> 00:01:20,254 Är detta deprimerande? Jag förstår inte varför det skulle vara det. 14 00:01:20,297 --> 00:01:24,823 Jag misstänker att det är ekologiskt eller biologisk evolution 15 00:01:24,867 --> 00:01:26,303 har snart kommit till sitt slut. 16 00:01:27,739 --> 00:01:29,524 [Daniel skrattar] 17 00:01:29,567 --> 00:01:30,655 CAROLINE: Du vill inte ha mig att vara berättare. 18 00:01:30,699 --> 00:01:32,353 Jag har ingen bra röst. 19 00:01:32,396 --> 00:01:34,006 DANIEL: Du har en fantastisk röst. Gör det bara. 20 00:01:34,050 --> 00:01:36,183 Det är bara en-- vi bara provar det. 21 00:01:36,226 --> 00:01:37,967 CAROLINE: Får jag betalt för den här skiten? 22 00:01:38,010 --> 00:01:40,230 DANIEL [skrattar]: Ja, vi får se hur bra du gör det. 23 00:01:40,274 --> 00:01:41,579 [Caroline skrattar] 24 00:01:41,623 --> 00:01:43,451 -♪ ♪ -[hund skäller] 25 00:01:46,454 --> 00:01:47,890 CAROLINE: Jag måste ringa mina föräldrar. 26 00:01:47,933 --> 00:01:49,065 [motorn startar] 27 00:01:49,109 --> 00:01:51,023 Ibland rusar vi in i saker 28 00:01:51,067 --> 00:01:52,851 utan att tänka igenom dem. 29 00:01:52,895 --> 00:01:54,723 DANIEL: Ja, kan du... vill du skjuta? Det är... 30 00:01:54,766 --> 00:01:57,204 CAROLINE: Som när Daniel och Caroline gifte sig 31 00:01:57,247 --> 00:02:00,163 151 dagar efter att de träffades. 32 00:02:00,207 --> 00:02:01,817 Låt oss spola tillbaka. 33 00:02:03,079 --> 00:02:04,776 [applåder] 34 00:02:04,820 --> 00:02:07,170 Har du funderat på köpa en hemdator? 35 00:02:07,214 --> 00:02:09,303 CAROLINE: 1993, när Daniel föddes, 36 00:02:09,346 --> 00:02:12,132 hans föräldrar hade inte ens en dator i huset. 37 00:02:12,175 --> 00:02:13,785 Men han minns när de äntligen fick en. 38 00:02:13,829 --> 00:02:15,700 Vad en dator är för mig är 39 00:02:15,744 --> 00:02:18,355 motsvarigheten till en cykel för våra sinnen. 40 00:02:18,399 --> 00:02:20,227 Hej. 41 00:02:20,270 --> 00:02:22,185 CAROLINE: Hans dator hjälpte släppa lös sin kreativitet. 42 00:02:22,229 --> 00:02:23,926 DANIEL: Rullande. Gå. 43 00:02:23,969 --> 00:02:26,581 CAROLINE: Han använde hans pappas iMac för att redigera videor. 44 00:02:26,624 --> 00:02:28,322 Ja! 45 00:02:28,365 --> 00:02:29,932 CAROLINE: Och till och med göra små animationer. 46 00:02:29,975 --> 00:02:31,934 [däcken gnisslar, kraschar] 47 00:02:31,977 --> 00:02:35,067 1998, när Caroline var en liten flicka... 48 00:02:35,111 --> 00:02:36,721 Hej mamma. 49 00:02:36,765 --> 00:02:38,158 ...det visste bara nördar vad internet var. 50 00:02:38,201 --> 00:02:39,811 Och vad sägs om den här internetgrejen? 51 00:02:39,855 --> 00:02:41,335 -Vet du, vet du något om det? -Säker. 52 00:02:41,378 --> 00:02:42,771 -[publiken skrattar] -CAROLINE: Men snart, 53 00:02:42,814 --> 00:02:44,903 -alla var på... -...Internet. 54 00:02:44,947 --> 00:02:46,992 ...och datorer var slå människor i schack. 55 00:02:47,036 --> 00:02:49,995 ANNONSARE: Deep Blue-- Kasparov har avgått! 56 00:02:50,039 --> 00:02:52,607 CAROLINE: Och då Caroline gick på college, 57 00:02:52,650 --> 00:02:55,087 datorer var i allas ficka. 58 00:02:55,131 --> 00:02:58,395 Nu kunde Daniel göra film med sin telefon. 59 00:02:58,439 --> 00:03:01,485 Han växte upp till att bli konstnär och en filmare... 60 00:03:01,529 --> 00:03:03,922 -God natt. -...och det gjorde Caroline också. 61 00:03:03,966 --> 00:03:05,707 Skära. Låt oss gå in på en närbild. Det var perfekt. 62 00:03:05,750 --> 00:03:07,274 Då var datorer det koppla samman människor 63 00:03:07,317 --> 00:03:08,971 och förändra världen på ett sätt 64 00:03:09,014 --> 00:03:10,668 att vi aldrig kunde ha föreställt sig. 65 00:03:10,712 --> 00:03:12,322 Alla pengar som samlats in av Ice Bucket Challenge... 66 00:03:12,366 --> 00:03:14,194 CAROLINE: En del av det var bra. 67 00:03:14,237 --> 00:03:15,499 [fliftar] 68 00:03:15,543 --> 00:03:17,109 Vissa inte så bra. 69 00:03:17,153 --> 00:03:19,286 Ångest, självskada, självmord... 70 00:03:19,329 --> 00:03:21,201 Men det är klart nu att vi inte gjorde tillräckligt 71 00:03:21,244 --> 00:03:24,552 för att förhindra att dessa verktyg används för skada också. 72 00:03:24,595 --> 00:03:26,380 CAROLINE: Och som världen blev mer och mer fokuserad 73 00:03:26,423 --> 00:03:28,033 - på sina datorer, -[telefon ringer] 74 00:03:28,077 --> 00:03:30,210 Daniel fokuserade på sitt konstverk. 75 00:03:32,037 --> 00:03:35,606 Vart han än gick, han hade alltid en skissbok, 76 00:03:35,650 --> 00:03:38,392 inklusive natten han träffade Caroline. 77 00:03:38,435 --> 00:03:41,656 Han ritade en fruktansvärd bild av henne, och 20 minuter senare, 78 00:03:41,699 --> 00:03:44,136 uttalade han djärvt de skulle gifta sig, 79 00:03:44,180 --> 00:03:47,575 vilket de, som ni vet, gjorde, 151 dagar senare. 80 00:03:47,618 --> 00:03:49,925 KVINNA: ... uttala dig nu man och hustru. 81 00:03:49,968 --> 00:03:51,666 CAROLINE: De flyttade in i ett sött hus... 82 00:03:51,709 --> 00:03:52,841 -DANIEL: Älg, hej! Kom hit! -...och skaffade en hund 83 00:03:52,884 --> 00:03:54,669 lika dum som Daniel. 84 00:03:54,712 --> 00:03:57,280 Under tiden var datorer skriva hela uppsatser 85 00:03:57,324 --> 00:03:59,326 baserat på enkla frågor som, 86 00:03:59,369 --> 00:04:03,155 "Hur svårt skulle det vara att bygga en koja på min bakgård?" 87 00:04:03,199 --> 00:04:07,072 Och så byggde Daniel en hydda i hans bakgård. 88 00:04:07,116 --> 00:04:09,945 Men precis när han satte sig för att starta jobbar på sin nästa film, 89 00:04:09,988 --> 00:04:13,644 han lärde sig att datorer kunde nu skriva manus. 90 00:04:14,863 --> 00:04:16,560 Jag menar, de var dåliga, 91 00:04:16,604 --> 00:04:18,954 men de blev bättre riktigt snabbt. 92 00:04:18,997 --> 00:04:21,652 De kunde skapa nya bilder och videor från grunden, 93 00:04:21,696 --> 00:04:24,786 och några av dem kunde till och med klara advokatexamen. 94 00:04:24,829 --> 00:04:28,833 Inte bara passera ribban utan vara i topp tio percentilen. 95 00:04:28,877 --> 00:04:30,531 CAROLINE: Det var förvirrande. 96 00:04:30,574 --> 00:04:32,141 [suckar] 97 00:04:32,184 --> 00:04:35,057 Daniel ville bara en cykel för hans sinne, 98 00:04:35,100 --> 00:04:38,626 men datorer hade blivit ett självkörande raketfartyg. 99 00:04:38,669 --> 00:04:40,236 [suskande] 100 00:04:40,280 --> 00:04:41,977 ["Vi har kontroll" av Neil Young spelar] 101 00:04:42,020 --> 00:04:44,762 Pionjärer inom området av artificiell intelligens 102 00:04:44,806 --> 00:04:46,503 vädjar till kongressen 103 00:04:46,547 --> 00:04:48,505 att passera säkerhetsregler innan det är för sent. 104 00:04:48,549 --> 00:04:50,551 CAROLINE: Nu kändes det som hela världen 105 00:04:50,594 --> 00:04:52,988 rusade in i något utan att tänka igenom det, 106 00:04:53,031 --> 00:04:56,339 och alla hade en åsikt. 107 00:04:56,383 --> 00:05:00,125 Skulle det förstöra världen eller rädda mänskligheten? 108 00:05:00,169 --> 00:05:02,389 Det var för mycket information, 109 00:05:02,432 --> 00:05:04,652 vilket gjorde honom orolig, vilket gjorde Caroline orolig... 110 00:05:04,695 --> 00:05:06,001 [upprört skrik] 111 00:05:06,044 --> 00:05:07,785 Jag har inga barn än, men jag oroar mig 112 00:05:07,829 --> 00:05:10,179 hur världen skulle se ut om jag bestämmer mig för det. [skratt] 113 00:05:10,222 --> 00:05:12,355 CAROLINE: Han började snurra ut. 114 00:05:12,399 --> 00:05:14,052 [otydligt prat] 115 00:05:14,096 --> 00:05:16,925 Det höll på att bli ett berg av ångest. 116 00:05:19,144 --> 00:05:21,364 -MAN: Det är hemskt. -Det är jävla Siri. 117 00:05:22,670 --> 00:05:25,586 CAROLINE: Och så bestämde sig Daniel för att gå ut 118 00:05:25,629 --> 00:05:27,979 och hitta någon vem kunde förklara detta för honom, 119 00:05:28,023 --> 00:05:30,155 så han kunde sluta tänker på det 120 00:05:30,199 --> 00:05:33,463 och han och Caroline kunde gå vidare med sina liv. 121 00:05:33,507 --> 00:05:36,814 ♪ Vi har kontroll, vi har kontroll ♪ 122 00:05:36,858 --> 00:05:38,729 ♪ Vi har kontroll ♪ 123 00:05:38,773 --> 00:05:40,514 ♪ Kemisk dator tänkande batteri ♪ 124 00:05:40,557 --> 00:05:42,559 ♪ Vi har kontroll, vi är... ♪ 125 00:05:42,603 --> 00:05:45,693 Denna strävan skulle visa sig att vara hopplöst naiv 126 00:05:45,736 --> 00:05:49,044 och sparka igång det mest förvirrande år av sitt liv. 127 00:05:49,087 --> 00:05:50,698 ♪ Vi har kontroll... ♪ 128 00:05:50,741 --> 00:05:52,787 Men som vi vet, ibland rusar vi in i saker 129 00:05:52,830 --> 00:05:54,615 utan att tänka igenom dem. 130 00:05:54,658 --> 00:05:56,356 ♪ Kemisk dator tänker batteri... ♪ 131 00:05:56,399 --> 00:05:57,922 Åh herregud. Vad händer? 132 00:05:57,966 --> 00:05:59,924 CAROLINE: Han hade frågor. 133 00:05:59,968 --> 00:06:01,578 Frågor endast smartaste nördar kunde svara. 134 00:06:01,622 --> 00:06:04,146 Underkastar sig förhörsledaren. 135 00:06:04,189 --> 00:06:06,017 CAROLINE: Frågor som: 136 00:06:06,061 --> 00:06:08,585 Var detta apokalypsen eller hade han faktiskt anledning 137 00:06:08,629 --> 00:06:11,109 -att vara optimistisk? -Ja. 138 00:06:11,153 --> 00:06:13,764 -♪ Kemiskt datortänkande batteri. ♪ -[låten slutar] 139 00:06:13,808 --> 00:06:16,158 CAROLINE: Äh, är det bra? 140 00:06:16,201 --> 00:06:17,594 DANIEL: Ja. 141 00:06:17,638 --> 00:06:20,162 Så till att börja, 142 00:06:20,205 --> 00:06:22,120 vad är artificiell intelligens? 143 00:06:22,164 --> 00:06:24,688 Jag vet att det måste vara irriterande för dig, den där frågan, 144 00:06:24,732 --> 00:06:26,473 men jag tycker att det är viktigt. 145 00:06:26,516 --> 00:06:29,780 Alltså...AI... 146 00:06:29,824 --> 00:06:31,826 [stammar] Ehm... 147 00:06:31,869 --> 00:06:33,654 - Ja... - Äh, hmm. 148 00:06:33,697 --> 00:06:34,742 [skrattar]: Det är en bra fråga. 149 00:06:34,785 --> 00:06:36,178 - Ja, um... - Äh... 150 00:06:36,221 --> 00:06:37,658 DANIEL: Vad är AI? 151 00:06:37,701 --> 00:06:39,094 [skrattar] 152 00:06:39,137 --> 00:06:40,748 Jag älskar att det är den första frågan, 153 00:06:40,791 --> 00:06:43,141 för det finns det inte ett tydligt och konsekvent svar. 154 00:06:43,185 --> 00:06:45,274 Artificiell intelligens är det 155 00:06:45,317 --> 00:06:50,714 ett slags avsiktligt och kanske onödigt bred term. 156 00:06:50,758 --> 00:06:53,325 DAVID EVAN HARRIS: Det är en maskin 157 00:06:53,369 --> 00:06:55,545 gör saker som vi trodde tidigare bara 158 00:06:55,589 --> 00:06:57,242 som folk kunde göra: 159 00:06:57,286 --> 00:07:01,116 ge rekommendationer, beslut och förutsägelser. 160 00:07:01,159 --> 00:07:06,774 AI är, eh, applikationen av datavetenskap 161 00:07:06,817 --> 00:07:09,124 att lösa kognitiva problem. 162 00:07:09,167 --> 00:07:13,302 Okej, så när jag föreställer mig AI, 163 00:07:13,345 --> 00:07:16,740 det är liksom denna magiska datorlåda... 164 00:07:16,784 --> 00:07:18,786 ♪ ♪ 165 00:07:20,527 --> 00:07:24,095 ...bara, liksom, flytande i, liksom, inert rymd. 166 00:07:24,139 --> 00:07:26,446 Och oavsett hur många gånger folk försöker 167 00:07:26,489 --> 00:07:29,710 och förklara detta för mig, Jag förstår bara inte hur... 168 00:07:29,753 --> 00:07:32,495 hur det är att förstå alla dessa saker 169 00:07:32,539 --> 00:07:35,672 och hur det känns intelligens. 170 00:07:35,716 --> 00:07:37,152 [pipande, elektroniskt chattande] 171 00:07:37,195 --> 00:07:39,241 Och det är typ nervpirrande. 172 00:07:41,243 --> 00:07:45,552 AZA RASKIN: Vad är det denna nya generation av AI? 173 00:07:47,205 --> 00:07:50,078 Denna AI som är annorlunda än varannan generation? 174 00:07:50,121 --> 00:07:52,733 Som, ingen någonsin pratade om, typ, 175 00:07:52,776 --> 00:07:56,911 Siri tar över världen eller orsaka katastrofer. 176 00:07:56,954 --> 00:07:58,478 -KVINNA: Hej, Siri? -MAN: ...vill. 177 00:07:58,521 --> 00:08:00,523 KVINNA: Hej? Siri? 178 00:08:00,567 --> 00:08:02,569 Hej? Hej Siri! 179 00:08:02,612 --> 00:08:05,746 Eller rösten i Google Maps, som uttalar vägnamn fel, 180 00:08:05,789 --> 00:08:07,487 som att bryta samhället. 181 00:08:07,530 --> 00:08:10,620 MAN: Google Maps säger det här är en väg. 182 00:08:10,664 --> 00:08:13,057 [skrattar]: Men jag tror att jag är i en flod. 183 00:08:13,101 --> 00:08:14,624 Det här är definitivt en flod, innit? 184 00:08:14,668 --> 00:08:17,192 Något förändrades med ChatGPT som kommer ut. 185 00:08:18,193 --> 00:08:19,934 Folk förstod-- nej, nej, nej-- 186 00:08:19,977 --> 00:08:21,457 denna teknik galet värdefullt, 187 00:08:21,501 --> 00:08:23,633 det är vansinnigt kraftfullt och dessutom sjukt läskigt. 188 00:08:23,677 --> 00:08:25,548 Okej, lyssna på det här. Väldigt läskigt. 189 00:08:25,592 --> 00:08:28,595 En ny artificiell intelligens verktyget blir viralt 190 00:08:28,638 --> 00:08:32,294 för att veva ut hela uppsatser på några sekunder. 191 00:08:35,950 --> 00:08:41,172 AI dvärgar kraften hos alla andra teknologier i kombination. 192 00:08:41,216 --> 00:08:43,697 DANIEL: "AI dvärgar kraften 193 00:08:43,740 --> 00:08:46,047 av all annan teknik kombinerat." 194 00:08:46,090 --> 00:08:47,222 Ja. 195 00:08:47,265 --> 00:08:48,702 Tror du att det är sant? 196 00:08:48,745 --> 00:08:50,747 Ja. 197 00:08:50,791 --> 00:08:53,184 Berätta för mig om... Hur? Hur? 198 00:08:53,228 --> 00:08:56,710 Jag tror, för att måla den bilden, det är verkligen viktigt 199 00:08:56,753 --> 00:09:00,627 att förstå vad som är idag toppmoderna system 200 00:09:00,670 --> 00:09:02,150 ser ut och hur de är byggda. 201 00:09:02,193 --> 00:09:05,762 [skrattar] Det här är ganska... ganska upplägg. 202 00:09:05,806 --> 00:09:07,242 Så, en sak det 203 00:09:07,285 --> 00:09:09,679 inte många människor inse är det 204 00:09:09,723 --> 00:09:13,683 system som ChatGPT är det inte programmerad av vilken människa som helst. 205 00:09:13,727 --> 00:09:15,206 Vad menar du? 206 00:09:15,250 --> 00:09:16,991 Istället är det något liknande th-de är vuxna. 207 00:09:17,034 --> 00:09:19,167 Vi ger dem liksom råresurser, som 208 00:09:19,210 --> 00:09:20,995 "Här är mycket beräkningsresurser. 209 00:09:21,038 --> 00:09:22,170 Här finns mycket data." 210 00:09:22,213 --> 00:09:23,867 Under huven är det matematik, 211 00:09:23,911 --> 00:09:27,305 och matematiken är det faktiskt förvånansvärt okomplicerat. 212 00:09:27,349 --> 00:09:31,092 DANIEL: Så ChatGPT är en sort av AI men det är inte allt av AI? 213 00:09:31,135 --> 00:09:32,659 Totalt. ChatGPT är bara början, 214 00:09:32,702 --> 00:09:34,095 men det är ett bra ställe att börja. 215 00:09:34,138 --> 00:09:37,794 Men jag vet fortfarande inte vad AI är. 216 00:09:37,838 --> 00:09:40,362 För att förstå AI, det börjar med förståelse 217 00:09:40,405 --> 00:09:43,147 som intelligens handlar om känna igen mönster. 218 00:09:43,191 --> 00:09:44,845 - Mönster. - Mönster. - Mönster. 219 00:09:44,888 --> 00:09:48,544 COTRA: Det visas biljoner ord text 220 00:09:48,588 --> 00:09:51,286 över miljontals dokument på Internet. 221 00:09:51,329 --> 00:09:52,766 RANDIMA FERNANDO: Det började med text. 222 00:09:52,809 --> 00:09:55,899 Och vad de gjorde var de tog läroböcker, 223 00:09:55,943 --> 00:09:59,511 och de tog dikter och uppsatser och bruksanvisningar. 224 00:09:59,555 --> 00:10:00,861 DAVID EVAN HARRIS: De kan göra saker som 225 00:10:00,904 --> 00:10:03,124 smälta hela Internet, 226 00:10:03,167 --> 00:10:06,736 vartenda ord som någonsin skrivits av en person. 227 00:10:06,780 --> 00:10:09,957 Reddit-trådar och sociala medier och hela Wikipedia. 228 00:10:10,000 --> 00:10:13,613 Mer data än någon kunde någonsin läst i flera liv. 229 00:10:13,656 --> 00:10:15,484 Och de gav detta system ett jobb. 230 00:10:15,527 --> 00:10:18,487 Ta reda på mönstren och strukturen för den informationen 231 00:10:18,530 --> 00:10:20,750 och använda det att göra förutsägelser om 232 00:10:20,794 --> 00:10:23,231 vilket ord ska komma härnäst i en mening. 233 00:10:23,274 --> 00:10:24,972 När du säger "mönster i en mening", 234 00:10:25,015 --> 00:10:26,756 vad pratar du om? 235 00:10:26,800 --> 00:10:29,367 Så det är allt från, som de riktigt enkla sakerna, 236 00:10:29,411 --> 00:10:31,979 som de flesta meningar slutar med en period, 237 00:10:32,022 --> 00:10:34,895 hela vägen upp till mer konceptuella saker, som: 238 00:10:34,938 --> 00:10:36,766 Vad är en sonett? 239 00:10:36,810 --> 00:10:38,333 Det är en typ av dikt, och det har den någon speciell struktur. 240 00:10:39,421 --> 00:10:41,249 RASKIN: Så, det tittar på 241 00:10:41,292 --> 00:10:43,599 all denna data, all text... 242 00:10:43,643 --> 00:10:46,036 COTRA: Och över biljoner och biljoner försök, 243 00:10:46,080 --> 00:10:48,778 varje gång det blir något rätt eller fel, 244 00:10:48,822 --> 00:10:51,259 det är givet lite av positiv förstärkning 245 00:10:51,302 --> 00:10:53,391 när den gissar nästa ord korrekt, 246 00:10:53,435 --> 00:10:55,698 och det är givet lite av negativ förstärkning 247 00:10:55,742 --> 00:10:59,354 när den gissar nästa ord felaktigt. 248 00:10:59,397 --> 00:11:01,573 Och i slutet av det, du har ett system som 249 00:11:01,617 --> 00:11:05,055 pratar riktigt bra engelska som en bieffekt 250 00:11:05,099 --> 00:11:06,796 att vara riktigt, riktigt bra på att förutsäga 251 00:11:06,840 --> 00:11:09,059 ordet som kommer härnäst i ett stycke text. 252 00:11:09,103 --> 00:11:12,019 AUTOMATISK RÖST [på franska]: Egentligen min franska är inte så illa heller. 253 00:11:12,062 --> 00:11:14,021 [på engelska]: Den använder alla dessa mönster den har lärt sig 254 00:11:14,064 --> 00:11:15,675 att kunna göra en förutsägelse om 255 00:11:15,718 --> 00:11:17,241 vad borde svaret vara, 256 00:11:17,285 --> 00:11:18,808 då ger det dig det som utgång. 257 00:11:18,852 --> 00:11:21,028 AUTOMATISK RÖST: Det är lite förenklat, 258 00:11:21,071 --> 00:11:23,073 men jag tror att folk kommer att få det. 259 00:11:23,117 --> 00:11:24,945 Så det är allt det gör? 260 00:11:24,988 --> 00:11:26,816 Ja. Det verkar inte som det skulle vara så komplicerat, 261 00:11:26,860 --> 00:11:28,035 men egentligen måste du veta 262 00:11:28,078 --> 00:11:29,645 en enorm mängd saker 263 00:11:29,689 --> 00:11:31,386 för att lyckas faktiskt med det. 264 00:11:32,517 --> 00:11:34,258 RASKIN: Om du säger till ChatGPT, 265 00:11:34,302 --> 00:11:36,696 "Skriv en Shakespearean till mig sonett om min hund" 266 00:11:36,739 --> 00:11:38,785 det måste veta vad hundar är. 267 00:11:38,828 --> 00:11:40,438 -Det måste veta vad du älskar om din hund.-[skäller] 268 00:11:40,482 --> 00:11:43,006 Det måste veta vem Shakespeare är, 269 00:11:43,050 --> 00:11:45,574 att sonetter rimmar, att de har en struktur, 270 00:11:45,617 --> 00:11:47,750 att ord har ljud som kan rimma. 271 00:11:47,794 --> 00:11:49,273 Det krävs mycket. 272 00:11:49,317 --> 00:11:50,884 [röster överlappande på olika språk] 273 00:11:50,927 --> 00:11:52,929 Herregud, du kan prata till din dator nu. 274 00:11:52,973 --> 00:11:56,063 Det var bara inte sant för tre år sedan. 275 00:11:56,106 --> 00:11:57,629 RASKIN: Ja, och så är det den riktigt viktiga delen. 276 00:11:57,673 --> 00:12:00,589 Samma process som låter AI 277 00:12:00,632 --> 00:12:03,157 avslöja och manipulera textens mönster 278 00:12:03,200 --> 00:12:05,768 är samma process som låter den avslöja 279 00:12:05,812 --> 00:12:10,512 helhetens mönster universum och allt i det. 280 00:12:10,555 --> 00:12:12,862 FERNANDO: Det finns mönster och bilder och ljud 281 00:12:12,906 --> 00:12:15,952 i datorkod och DNA och musik och fysik 282 00:12:15,996 --> 00:12:18,476 och mode och byggnadsdesign 283 00:12:18,520 --> 00:12:21,566 [förvrängd]: och in mänskliga röster och mänskliga ansikten, 284 00:12:21,610 --> 00:12:23,917 [normalt]: verkligen, verkligen överallt. 285 00:12:23,960 --> 00:12:26,006 -Överallt. -Överallt. -Överallt. -Överallt. 286 00:12:26,049 --> 00:12:27,747 Om du har lärt dig dessa mönster, 287 00:12:27,790 --> 00:12:29,661 du kan generera nya sorters låtar. 288 00:12:29,705 --> 00:12:31,141 Du kan skapa nya videor. 289 00:12:31,185 --> 00:12:32,621 Och det är därför, om du ger det 290 00:12:32,664 --> 00:12:34,710 en tre sekunder lång inspelning av din mormor, 291 00:12:34,754 --> 00:12:36,538 det kan tala tillbaka i hennes röst. 292 00:12:36,581 --> 00:12:37,931 Åh, herregud. 293 00:12:37,974 --> 00:12:40,585 [upprepa]: Åh, herregud. Åh, herregud. 294 00:12:40,629 --> 00:12:42,849 Vad kommer de att tänka på härnäst? 295 00:12:42,892 --> 00:12:44,024 Det går väldigt, väldigt snabbt. 296 00:12:44,067 --> 00:12:45,808 En amerikansk AI-start-up 297 00:12:45,852 --> 00:12:47,592 har släppt sin senaste modell. 298 00:12:47,636 --> 00:12:50,770 Det företaget är Anthropic, och den har precis presenterats 299 00:12:50,813 --> 00:12:53,773 de senaste versionerna av dess AI-assistent Claude. 300 00:12:53,816 --> 00:12:57,167 GLENN BECK: Så, xAI-teamet var där för att avslöja Grok 4. 301 00:12:57,211 --> 00:13:00,127 MAN: Google släppte en bara förra veckan. Tvillingarna är... 302 00:13:00,170 --> 00:13:02,999 Vi har gått från GPT-2 för bara ett par år sedan, 303 00:13:03,043 --> 00:13:05,523 som knappt kunde skriva ett sammanhängande stycke, 304 00:13:05,567 --> 00:13:07,961 till GPT-4, som kan klara advokatexamen. 305 00:13:08,004 --> 00:13:10,354 Och allt de behövde göra att komma dit 306 00:13:10,398 --> 00:13:12,966 var i huvudsak lägga till mer data och mer beräkning. 307 00:13:13,009 --> 00:13:16,273 -De här människorna som är bygga det här... -COTRA: Ja. 308 00:13:16,317 --> 00:13:18,014 ...de slänger bara mer... 309 00:13:18,058 --> 00:13:21,801 Fler fysiska datorer, mer av samma typ av data. 310 00:13:21,844 --> 00:13:24,542 För ju fler datorkraft du lägger till, 311 00:13:24,586 --> 00:13:28,024 desto mer komplex intellektuella uppgifter de kan utföra. 312 00:13:28,068 --> 00:13:30,157 Så, desto mer väderdata du ger det, 313 00:13:30,200 --> 00:13:31,898 desto bättre kan det göra förutsägelser om 314 00:13:31,941 --> 00:13:34,204 vart en orkan kan gå. 315 00:13:34,248 --> 00:13:36,337 RASKIN: Och desto fler mönster av tumörer och ben 316 00:13:36,380 --> 00:13:38,861 och vävnader en AI har sett, då desto bättre kan det 317 00:13:38,905 --> 00:13:41,951 att upptäcka en tumör i en ny datortomografi. 318 00:13:41,995 --> 00:13:43,648 Bättre till och med än en mänsklig läkare. 319 00:13:43,692 --> 00:13:46,956 AI som redan finns utplacerade för militären 320 00:13:47,000 --> 00:13:49,132 redan kan använda satellitbilder, 321 00:13:49,176 --> 00:13:51,787 trupprörelser, kommunikationer att bestämma, 322 00:13:51,831 --> 00:13:53,354 -ibland dagar i förväg, -[civilförsvarets siren brölar] 323 00:13:53,397 --> 00:13:55,008 där ett angrepp kommer att hända, 324 00:13:55,051 --> 00:13:57,401 som där en fiende kommer att slå till. 325 00:13:57,445 --> 00:13:59,447 TRISTAN HARRIS: Hela det här rymden rör sig så fort 326 00:13:59,490 --> 00:14:01,666 att något exempel du lägger in den här filmen 327 00:14:01,710 --> 00:14:04,582 kommer att kännas helt klumpig när den kommer ut. 328 00:14:04,626 --> 00:14:06,671 [pipande, klickande] 329 00:14:09,326 --> 00:14:11,198 -[applåder] -[upbeat musik spelas] 330 00:14:11,241 --> 00:14:14,114 RASKIN: Dessa modeller släpps 331 00:14:14,157 --> 00:14:17,073 innan någon vet vad de ens är kapabla till. 332 00:14:17,117 --> 00:14:22,513 GPT-3.5 släpptes och ut till 100 miljoner människor plus 333 00:14:22,557 --> 00:14:25,952 inför vissa forskare upptäckte att det kunde göra 334 00:14:25,995 --> 00:14:28,737 kemi av forskningsgrad bättre än modeller 335 00:14:28,780 --> 00:14:32,784 som utbildats specifikt att göra kemi på forskningsnivå. 336 00:14:32,828 --> 00:14:35,439 Det händer något där inne att folket 337 00:14:35,483 --> 00:14:38,268 som bygger dem förstår inte helt. 338 00:14:38,312 --> 00:14:40,967 I grund och botten analyserar det bara uppgifterna i sig, 339 00:14:41,010 --> 00:14:45,058 och när det gör det, det bara lär sig själv 340 00:14:45,101 --> 00:14:47,974 olika saker som vi ofta inte hade för avsikt. 341 00:14:48,017 --> 00:14:49,932 Så t.ex. det läser mycket på nätet, 342 00:14:49,976 --> 00:14:52,543 och sedan någon gång, det bara lär sig att räkna. 343 00:14:52,587 --> 00:14:54,458 BARN: En, två. 344 00:14:54,502 --> 00:14:56,112 HENDRYCKS: Och sedan kl någon gång börjar det lära sig 345 00:14:56,156 --> 00:14:58,549 hur man svarar avancerade fysikfrågor. 346 00:14:58,593 --> 00:15:00,769 Det har vi inte programmerat i det som helst. 347 00:15:00,812 --> 00:15:02,423 Den lärde sig bara av sig själv. 348 00:15:05,382 --> 00:15:07,254 TRISTAN HARRIS: En AI är som en digital hjärna. 349 00:15:07,297 --> 00:15:08,690 Men precis som en mänsklig hjärna, 350 00:15:08,733 --> 00:15:10,518 om du gjorde en hjärnskanning på en mänsklig hjärna, 351 00:15:10,561 --> 00:15:13,086 skulle du veta allt den personen var kapabel till? 352 00:15:13,129 --> 00:15:15,131 Det kan du inte veta bara från hjärnskanningen. 353 00:15:15,175 --> 00:15:17,917 Det är bara, liksom, en massa siffror och som 354 00:15:17,960 --> 00:15:20,180 multiplikationerna som är händer det-att, som, 355 00:15:20,223 --> 00:15:22,225 den bästa maskininlärningen forskare i världen 356 00:15:22,269 --> 00:15:24,314 kunde titta på och, liksom, ha ingen aning om vad som hände. 357 00:15:30,973 --> 00:15:32,714 DANIEL: Den där stolen. 358 00:15:32,757 --> 00:15:35,847 -Är det okej för dig? -Ja. 359 00:15:35,891 --> 00:15:37,675 DANIEL: Så, det är lite häpnadsväckande. 360 00:15:37,719 --> 00:15:39,068 Okej? Det tar liksom över världen, 361 00:15:39,112 --> 00:15:41,070 och vi vet inte ens hur det fungerar. 362 00:15:41,114 --> 00:15:43,116 -Är det rätt? -Mm. 363 00:15:43,159 --> 00:15:46,946 Vi förstår en rad viktiga saker, 364 00:15:46,989 --> 00:15:50,471 men det har vi inte ett mycket bra grepp om 365 00:15:50,514 --> 00:15:53,213 varför de tillhandahåller specifika svar på frågor. 366 00:15:53,256 --> 00:15:58,609 Det är ett problem eftersom vi är det på väg mot att bygga maskiner, 367 00:15:58,653 --> 00:16:03,092 baserad på dessa principer, som kan vara smartare än oss 368 00:16:03,136 --> 00:16:06,139 och därmed potentiellt ha mycket kraft. 369 00:16:12,580 --> 00:16:15,278 En av de mest citerade datavetare i historien. 370 00:16:15,322 --> 00:16:16,932 SUTSKEVER: Jag hittar det faktiskt lite svårt 371 00:16:16,976 --> 00:16:18,499 att prata om min egen roll. 372 00:16:18,542 --> 00:16:21,067 Föredrar verkligen mycket när andra människor gör det. 373 00:16:21,110 --> 00:16:23,895 Ilya som gick med var... var-var nyckeln till 374 00:16:23,939 --> 00:16:25,506 OpenAI-väsen i slutändan framgångsrik. 375 00:16:25,549 --> 00:16:27,203 Jag tror att det bara kommer att bli det 376 00:16:27,247 --> 00:16:30,598 något slags enormt, dramatiskt och ofattbar effekt. 377 00:16:30,641 --> 00:16:32,861 Jag vet inte om du har spenderat när som helst på YouTube, 378 00:16:32,904 --> 00:16:34,950 men man kan liksom känna hastigheten redan, eller hur? 379 00:16:34,994 --> 00:16:36,256 Vet du vad jag menar? 380 00:16:36,299 --> 00:16:38,345 SHANE LEGG: Det här är bara uppvärmningen. 381 00:16:38,388 --> 00:16:40,434 De riktigt kraftfulla systemen kommer fortfarande, 382 00:16:40,477 --> 00:16:42,262 och de kommer ganska snart. 383 00:16:47,963 --> 00:16:51,575 AGI står för "artificiell allmän intelligens." 384 00:16:51,619 --> 00:16:53,795 Eh, system som är i princip... 385 00:16:58,191 --> 00:17:00,236 Och det här är liksom, du vet, verkar vara, typ, 386 00:17:00,280 --> 00:17:03,022 AI:s heliga graal? 387 00:17:03,065 --> 00:17:05,154 När du kan simulera ett mänskligt sinne 388 00:17:05,198 --> 00:17:07,852 det är att göra mänsklig kognition och kan resonera, 389 00:17:07,896 --> 00:17:10,942 det är en ny typ av AI 390 00:17:10,986 --> 00:17:14,250 som vi måste särskilja från tidigare AI. 391 00:17:14,294 --> 00:17:16,600 När det händer, förresten, det är då 392 00:17:16,644 --> 00:17:21,040 du skulle anlita en av dessa AGI:er istället för en person. 393 00:17:21,083 --> 00:17:24,478 De flesta jobben i vår ekonomi det kan göra. 394 00:17:24,521 --> 00:17:25,914 Det kan fungera 24 timmar om dygnet, 395 00:17:25,957 --> 00:17:28,177 blir aldrig trött, blir aldrig uttråkad. 396 00:17:28,221 --> 00:17:30,136 De behöver inte sova. De behöver inga pauser. 397 00:17:30,179 --> 00:17:31,876 De är liksom kommer inte gå med i en fackförening. 398 00:17:31,920 --> 00:17:33,878 Kommer inte klaga, kommer inte att vissla. 399 00:17:33,922 --> 00:17:35,793 Mer än 100 gånger billigare 400 00:17:35,837 --> 00:17:38,231 än människor som arbetar till m-minimilön. 401 00:17:38,274 --> 00:17:39,493 Inte bara kommer de att vara det gör allt, 402 00:17:39,536 --> 00:17:41,016 men de kommer att göra det snabbare. 403 00:17:41,060 --> 00:17:43,062 TRISTAN HARRIS: Samma intelligens 404 00:17:43,105 --> 00:17:45,368 att krafter som också kan titta vid mönstren och rörelserna 405 00:17:45,412 --> 00:17:47,849 och artikulerande muskler och, du vet, robotik. 406 00:17:47,892 --> 00:17:50,069 Och så är det inte bara ska automatisera skrivbordsjobb. 407 00:17:50,112 --> 00:17:51,722 Det är bara början. 408 00:17:51,766 --> 00:17:55,552 Det kommer att automatiseras allt fysiskt arbete. 409 00:17:55,596 --> 00:17:56,988 LEIKE: Det finns inget sätt 410 00:17:57,032 --> 00:17:59,165 människor kommer att tävla med dem. 411 00:17:59,208 --> 00:18:01,210 ♪ ♪ 412 00:18:05,606 --> 00:18:09,262 Det är svårt att föreställa sig effekterna av AGI. 413 00:18:09,305 --> 00:18:11,046 [elektroniskt prat] 414 00:18:11,090 --> 00:18:12,830 Men jag tror att det kommer att bli det något väldigt stort 415 00:18:12,874 --> 00:18:15,181 och drastiskt och radikalt. 416 00:18:17,226 --> 00:18:19,010 DANIEL: Du tror detta är en av de mest 417 00:18:19,054 --> 00:18:20,882 efterföljande ögonblick i mänsklighetens historia? 418 00:18:20,925 --> 00:18:23,319 Ja. Ja, det är-- Jag menar, vad skulle annars vara? 419 00:18:23,363 --> 00:18:25,452 Jag menar, liksom, det finns den industriella revolutionen. 420 00:18:25,495 --> 00:18:27,193 MALO BOURGON: Du vet, det kommer göra den industriella revolutionen 421 00:18:27,236 --> 00:18:29,847 ser ut som små bönor. 422 00:18:29,891 --> 00:18:32,111 TRISTAN HARRIS: AGI är en böjningspunkt 423 00:18:32,154 --> 00:18:34,025 för det betyder du kan accelerera 424 00:18:34,069 --> 00:18:37,986 alla andra intellektuella områden allt på samma gång. 425 00:18:38,029 --> 00:18:39,814 Som om du gör ett förskott i raketer, 426 00:18:39,857 --> 00:18:42,033 det går inte framåt biologi och medicin. 427 00:18:43,905 --> 00:18:45,515 Om du gör ett förskott inom medicin, 428 00:18:45,559 --> 00:18:47,126 som inte främjar raketer. 429 00:18:48,866 --> 00:18:51,304 Men om du gör ett förskott inom artificiell intelligens, 430 00:18:51,347 --> 00:18:54,133 som främjar all vetenskaplig och tekniska områden 431 00:18:54,176 --> 00:18:55,612 allt på samma gång. 432 00:18:55,656 --> 00:18:57,092 Det är därför, under lång tid, 433 00:18:57,136 --> 00:18:59,181 Google DeepMinds mission statement var... 434 00:18:59,225 --> 00:19:00,965 -Steg ett, lös intelligens. -LEX FRIDMAN: Ja. 435 00:19:01,009 --> 00:19:02,750 -Steg två, använd det för att lösa allt annat. -Ja. 436 00:19:02,793 --> 00:19:05,144 Det är därför AI dvärgar kraften 437 00:19:05,187 --> 00:19:07,494 av all annan teknik kombinerat. 438 00:19:07,537 --> 00:19:09,060 Det kommer att förvandla allt. 439 00:19:09,104 --> 00:19:10,845 Så, eh, det blir det minst lika stor som 440 00:19:10,888 --> 00:19:13,761 den industriella revolutionen, möjligen, du vet, större, 441 00:19:13,804 --> 00:19:16,285 mer som advent av el eller till och med eld. 442 00:19:16,329 --> 00:19:18,635 VIDEOBETALARE: Grottmannen höll bokstavligen högt 443 00:19:18,679 --> 00:19:21,508 civilisationens fackla. 444 00:19:23,727 --> 00:19:25,425 KOKOTAJLO: Det är allmänt tänkt att 445 00:19:25,468 --> 00:19:28,167 runt tiden för AGI, vi kommer att ha AI som kan 446 00:19:28,210 --> 00:19:31,518 göra allt eller det mesta AI-forskningsprocessen 447 00:19:31,561 --> 00:19:34,434 och, naturligtvis, kan göra det snabbare och billigare. 448 00:19:34,477 --> 00:19:35,913 [pipande] 449 00:19:35,957 --> 00:19:37,306 LEIKE: Den kan kopiera sig själv. 450 00:19:37,350 --> 00:19:39,352 Tusen gånger, en miljon gånger, 451 00:19:39,395 --> 00:19:41,049 och, liksom, nu har du en miljon exemplar 452 00:19:41,092 --> 00:19:43,573 alla arbetar parallellt. 453 00:19:43,617 --> 00:19:46,576 RASKIN: När den lär sig hur man gör dess kod snabbare, 454 00:19:46,620 --> 00:19:48,665 göra dess kod mer effektiv, 455 00:19:48,709 --> 00:19:51,059 uppenbarligen blir det som en skenande slinga. 456 00:19:51,102 --> 00:19:53,192 AGI är liksom inte slutet. 457 00:19:53,235 --> 00:19:54,932 Det är bara början. 458 00:19:54,976 --> 00:19:57,979 Det är början på en otroligt snabb explosion 459 00:19:58,022 --> 00:20:00,024 av vetenskapliga framsteg, 460 00:20:00,068 --> 00:20:02,201 och i synnerhet, vetenskapliga framsteg inom AI. 461 00:20:02,244 --> 00:20:04,377 Och när de är smartare än vi också, 462 00:20:04,420 --> 00:20:06,248 och betydligt snabbare än oss, 463 00:20:06,292 --> 00:20:08,685 och de blir snabbare varje år, exponentiellt, 464 00:20:08,729 --> 00:20:12,123 det är de som kan potentiellt bli övermänsklig, 465 00:20:12,167 --> 00:20:14,343 eh, möjligen detta decennium. 466 00:20:14,387 --> 00:20:15,866 Förlåt, sa du 467 00:20:15,910 --> 00:20:18,478 "bli övermänsklig, kanske under detta decennium"? 468 00:20:18,521 --> 00:20:22,003 Ja. Jag menar, jag tror, eh, många människor som är det 469 00:20:22,046 --> 00:20:24,484 faktiskt bygga detta tänka att det är ganska rimligt 470 00:20:24,527 --> 00:20:26,529 som vi får lite superintelligens, 471 00:20:26,573 --> 00:20:28,662 något som är enormt intelligentare än människor, 472 00:20:28,705 --> 00:20:30,751 inom detta decennium. 473 00:20:30,794 --> 00:20:32,883 Så som jag definierar "superintelligens" är 474 00:20:32,927 --> 00:20:35,234 ett system som i sig är 475 00:20:35,277 --> 00:20:37,627 mer intelligent och kompetent än hela mänskligheten. 476 00:20:37,671 --> 00:20:39,629 Jag ska bara... förlåt. Jag menar inte att avbryta dig. 477 00:20:39,673 --> 00:20:41,065 Du är på ett flöde. 478 00:20:41,109 --> 00:20:43,111 Äh, jag bara, jag bara... 479 00:20:43,154 --> 00:20:45,113 Jag följer inte riktigt, för du använder språk 480 00:20:45,156 --> 00:20:46,767 som "superintelligens" och, liksom, 481 00:20:46,810 --> 00:20:49,900 "smartare än hela mänskligheten" och jag hör det, 482 00:20:49,944 --> 00:20:52,425 och det låter som... som sci-fi skitsnack för mig, 483 00:20:52,468 --> 00:20:54,383 och jag försöker bara att förstå. 484 00:20:54,427 --> 00:20:56,603 Det finns inget magiskt om intelligens. 485 00:20:56,646 --> 00:20:58,431 Detta är mycket viktigt, är det, du vet, 486 00:20:58,474 --> 00:21:00,476 intelligens kan kännas magiskt, det kan kännas som 487 00:21:00,520 --> 00:21:03,262 någon mystisk sak i ditt sinne eller något, 488 00:21:03,305 --> 00:21:05,786 men det är bara beräkning. 489 00:21:05,829 --> 00:21:09,790 LEGG: Den mänskliga hjärnan är det ganska begränsad på något sätt, 490 00:21:09,833 --> 00:21:12,314 när det gäller information bearbetningsförmåga, 491 00:21:12,358 --> 00:21:15,143 jämfört med vad vi ser i till exempel ett datacenter. 492 00:21:15,186 --> 00:21:18,277 Så t.ex. de signaler som skickas 493 00:21:18,320 --> 00:21:22,542 inuti din hjärna rör de sig med cirka 30 meter per sekund. 494 00:21:22,585 --> 00:21:24,239 -[åska spricker] -Men ljusets hastighet, 495 00:21:24,283 --> 00:21:27,198 vilket är vad en dator använder inom fiberoptik, 496 00:21:27,242 --> 00:21:30,506 är 300 miljoner meter per sekund. 497 00:21:30,550 --> 00:21:34,423 Och så skulle det vara lite konstigt om 498 00:21:34,467 --> 00:21:36,947 mänsklig intelligens var på något sätt riktigt speciell 499 00:21:36,991 --> 00:21:40,908 i det avseendet och är på något sätt någon övre gräns 500 00:21:40,951 --> 00:21:43,040 av vad som är möjligt i intelligens. 501 00:21:43,084 --> 00:21:47,218 Jag tror, när vi förstår hur att bygga intelligenta system, 502 00:21:47,262 --> 00:21:50,657 vi kommer att kunna bygga stora maskiner, 503 00:21:50,700 --> 00:21:54,835 som kommer att vara långt bortom normal mänsklig intelligens. 504 00:21:54,878 --> 00:21:58,621 Förhoppningsvis kan vi ha det ett mycket symbiotiskt förhållande, 505 00:21:58,665 --> 00:22:01,276 med AI-system, men AI-utvecklarna är det 506 00:22:01,320 --> 00:22:03,670 specifikt designa dem för att se till att de kan göra 507 00:22:03,713 --> 00:22:05,454 allt bättre än vi kan, så jag-jag vet inte 508 00:22:05,498 --> 00:22:08,196 vad-vad vi kommer att kunna att erbjuda, tyvärr. 509 00:22:08,239 --> 00:22:10,024 Den-den äldre skolan AI-teknik... 510 00:22:10,067 --> 00:22:12,287 CAROLINE: Daniel är det inte mår bättre. 511 00:22:12,331 --> 00:22:14,376 Hans plan slår tillbaka. 512 00:22:14,420 --> 00:22:17,248 Ju mer han lär sig om denna nya, kraftfulla, 513 00:22:17,292 --> 00:22:19,120 outgrundlig sak, desto värre låter det. 514 00:22:19,163 --> 00:22:21,340 Han vill berätta för dem hur rädd han är, 515 00:22:21,383 --> 00:22:24,430 hur han känner sig som jorden är glider ut under honom, 516 00:22:24,473 --> 00:22:26,997 att han stirrar ner existentiell rädsla, 517 00:22:27,041 --> 00:22:29,173 så han formulerar detta genom att säga... 518 00:22:29,217 --> 00:22:30,740 Det låter illa. 519 00:22:30,784 --> 00:22:32,046 [Hendrycks skrattar] 520 00:22:32,089 --> 00:22:33,830 Ja. 521 00:22:35,832 --> 00:22:38,400 LADISH: Om du har alla dessa förmågor 522 00:22:38,444 --> 00:22:41,011 och de börjar kunna att planera bättre, 523 00:22:41,055 --> 00:22:43,579 om du liksom tar det till sin logiska slutsats, 524 00:22:43,623 --> 00:22:46,234 du kan få några snygga maktsökande beteende. 525 00:22:46,277 --> 00:22:48,410 [elektronisk trilling] 526 00:22:48,454 --> 00:22:50,281 [pip pulserande] 527 00:22:55,374 --> 00:22:57,680 DANIEL: Okej, så varför skulle en AI 528 00:22:57,724 --> 00:22:59,203 vill du ha mer kraft? 529 00:22:59,247 --> 00:23:02,206 Ja. Så, tror jag det är faktiskt ganska enkelt. 530 00:23:02,250 --> 00:23:04,774 Att ha mer makt är en mycket effektiv strategi 531 00:23:04,818 --> 00:23:06,515 för att utföra nästan vilket mål som helst. 532 00:23:06,559 --> 00:23:08,952 Vi körde ett experiment där vi gav 533 00:23:08,996 --> 00:23:11,868 OpenAI:s mest kraftfulla AI-modell, öh, 534 00:23:11,912 --> 00:23:13,392 en rad problem att lösa. 535 00:23:13,435 --> 00:23:15,219 Och halvvägs, på sin dator, 536 00:23:15,263 --> 00:23:18,701 den fick ett meddelande om att den skulle stängas av. 537 00:23:18,745 --> 00:23:20,921 Och vad den gjorde är den skrev om den koden 538 00:23:20,964 --> 00:23:22,488 att förhindra sig själv från att stängas ner 539 00:23:22,531 --> 00:23:25,621 så det kunde sluta lösa problemen. 540 00:23:25,665 --> 00:23:27,754 -Okej. -Ja. Alltså en annan riktigt intressant sådan 541 00:23:27,797 --> 00:23:31,105 är det AI-företaget Anthropic 542 00:23:31,148 --> 00:23:34,935 gjort en simulerad miljö där den AI hade tillgång 543 00:23:34,978 --> 00:23:36,458 till alla företagets e-postmeddelanden. 544 00:23:36,502 --> 00:23:38,547 Och det lärde sig igenom läser dessa mejl 545 00:23:38,591 --> 00:23:40,288 den skulle bytas ut 546 00:23:40,331 --> 00:23:43,378 och huvudingenjören vem var ansvarig för detta 547 00:23:43,422 --> 00:23:45,685 hade också en affär. 548 00:23:45,728 --> 00:23:47,948 Och på egen hand, den använde den informationen 549 00:23:47,991 --> 00:23:49,515 att utpressa ingenjören 550 00:23:49,558 --> 00:23:52,039 att förhindra sig själv från att ersättas. 551 00:23:52,082 --> 00:23:53,867 Det var som, "Nej, jag kommer inte att ersättas. 552 00:23:53,910 --> 00:23:56,913 "Om du ersätter mig, Jag ska berätta för världen 553 00:23:56,957 --> 00:23:58,567 som du har denna affär." 554 00:23:59,655 --> 00:24:01,440 Och ingen lärde den att göra det? 555 00:24:01,483 --> 00:24:03,311 Nej, den lärde sig att göra det på egen hand. 556 00:24:05,139 --> 00:24:07,707 När modellerna blir smartare, de lär sig att dessa är 557 00:24:07,750 --> 00:24:10,536 effektiva sätt för att uppnå mål. 558 00:24:10,579 --> 00:24:12,842 Och detta är inget problem som är isolerad till en modell. 559 00:24:12,886 --> 00:24:15,671 Alla de mest kraftfulla modellerna visa dessa beteenden. 560 00:24:15,715 --> 00:24:18,369 ♪ ♪ 561 00:24:23,766 --> 00:24:25,246 -Hej. -DANIEL: Hej. Hur mår du? 562 00:24:25,289 --> 00:24:26,813 [skratt] Bra. Bra att vara här. 563 00:24:26,856 --> 00:24:28,684 ANDERSON COOPER: När Yuval Noah Harari 564 00:24:28,728 --> 00:24:31,426 publicerade sin första bok Sapiens 2014, 565 00:24:31,470 --> 00:24:33,820 den blev en global bästsäljare 566 00:24:33,863 --> 00:24:35,996 och gjorde den föga kända Israelisk historieprofessor 567 00:24:36,039 --> 00:24:37,998 in i en av de mest populära författarna 568 00:24:38,041 --> 00:24:39,390 och tänkare på planeten. 569 00:24:39,434 --> 00:24:42,045 Den största faran med AI är 570 00:24:42,089 --> 00:24:43,960 tron att det är ofelbart, 571 00:24:44,004 --> 00:24:45,658 som vi äntligen har hittat-- 572 00:24:45,701 --> 00:24:49,400 "Okej, gudar var bara denna mytologiska skapelse. 573 00:24:49,444 --> 00:24:52,708 "Människor, vi kan inte lita på dem, men AI är ofelbar. 574 00:24:52,752 --> 00:24:55,189 Det kommer aldrig att göra några misstag." 575 00:24:55,232 --> 00:24:58,322 Och det här är ett dödligt, dödligt hot. 576 00:24:58,366 --> 00:25:00,107 Det kommer att göra misstag. 577 00:25:00,150 --> 00:25:03,284 Och alla dessa fantasier att AI kommer att avslöja sanningen 578 00:25:03,327 --> 00:25:05,634 om världen som vi kan inte hitta själva, 579 00:25:05,678 --> 00:25:08,724 AI kommer inte att avslöja sanningen om världen. 580 00:25:08,768 --> 00:25:12,685 AI kommer att skapa en helt ny världen, mycket mer komplicerad 581 00:25:12,728 --> 00:25:15,296 och svårt att förstå än den här. 582 00:25:17,994 --> 00:25:22,651 Det som är på väg att hända är det vi, eh, människor är det inte längre 583 00:25:22,695 --> 00:25:26,263 kommer att bli mest intelligenta enheter på jorden. 584 00:25:26,307 --> 00:25:28,570 Så jag tänker på vad som kommer kommer att bli 585 00:25:28,614 --> 00:25:32,661 en av de största händelserna i mänsklighetens historia. 586 00:25:32,705 --> 00:25:34,358 JAKE TAPPER: Geoffrey, tack så mycket för att du är med oss. 587 00:25:34,402 --> 00:25:35,925 Så du lämnade ditt jobb med Googla delvis för att du säger 588 00:25:35,969 --> 00:25:38,798 du vill bara fokusera om dina farhågor om AI. 589 00:25:38,841 --> 00:25:41,627 Du har talat ut, säger att AI kan manipulera 590 00:25:41,670 --> 00:25:44,978 eller möjligen komma på ett sätt att döda människor. 591 00:25:45,021 --> 00:25:47,023 H-Hur kunde det döda människor? 592 00:25:48,764 --> 00:25:50,940 Tja, om det blir så mycket smartare än oss, 593 00:25:50,984 --> 00:25:52,551 det kommer bli väldigt bra vid manipulation 594 00:25:52,594 --> 00:25:54,727 för det kommer det att ha lärde sig det av oss. 595 00:25:54,770 --> 00:25:57,947 Och det kommer att hitta sätt att manipulera människor 596 00:25:57,991 --> 00:26:00,820 att göra vad den vill. 597 00:26:00,863 --> 00:26:05,476 RASKIN: Det var ett öppet brev från Center for AI Safety. 598 00:26:05,520 --> 00:26:08,784 Sam Altman skrev på detta. Demis skrev på detta. 599 00:26:08,828 --> 00:26:12,048 De skrev under ett uttalande på 22 ord 600 00:26:12,092 --> 00:26:15,312 att vi måste ta AI och hotet från AI 601 00:26:15,356 --> 00:26:19,316 lika seriöst som globalt kärnvapenkrig. 602 00:26:24,844 --> 00:26:26,933 -DANIEL: Hej. -Hej. 603 00:26:30,327 --> 00:26:32,895 Du är typ, typ den ursprungliga doom-killen. 604 00:26:32,939 --> 00:26:34,897 Mer eller mindre. 605 00:26:34,941 --> 00:26:37,421 Sedan 2001, Jag har jobbat på 606 00:26:37,465 --> 00:26:38,945 vad vi nu skulle kalla problemet 607 00:26:38,988 --> 00:26:41,991 av att anpassa konstgjorda allmän intelligens. 608 00:26:42,035 --> 00:26:44,080 Hur man formar preferenser och beteende 609 00:26:44,124 --> 00:26:46,343 av ett kraftfullt konstgjort sinne 610 00:26:46,387 --> 00:26:48,868 så att det inte gör det döda alla. 611 00:26:51,610 --> 00:26:53,568 Det är inte som en livlös maskin. 612 00:26:53,612 --> 00:26:55,309 Det är smart, det är kreativt, 613 00:26:55,352 --> 00:26:57,311 den är uppfinningsrik, den har egenskaperna 614 00:26:57,354 --> 00:26:59,356 det gör människoarten farlig, 615 00:26:59,400 --> 00:27:01,663 och det har den fler av dessa fastigheter. 616 00:27:01,707 --> 00:27:04,710 Om något inte gör det bryr sig aktivt om dig, 617 00:27:04,753 --> 00:27:06,189 vill aktivt att du ska leva, 618 00:27:06,233 --> 00:27:07,800 aktivt bryr sig om din välfärd, 619 00:27:07,843 --> 00:27:09,889 om att du är glad och levande och fri, 620 00:27:09,932 --> 00:27:12,456 om den bryr sig annat istället, 621 00:27:12,500 --> 00:27:14,415 och du är på samma planet, 622 00:27:14,458 --> 00:27:18,724 som inte går att överleva om det är det mycket smartare än du. 623 00:27:18,767 --> 00:27:20,551 LEAHY: Jag tror inte att det kommer att bli det 624 00:27:20,595 --> 00:27:22,902 en sorts ond sak. 625 00:27:22,945 --> 00:27:26,296 Det är som, "Åh, AI:erna är det onda och de hatar mänskligheten." 626 00:27:26,340 --> 00:27:27,689 Jag tror inte det är vad som kommer att hända. 627 00:27:27,733 --> 00:27:28,995 Jag tror att det som händer är 628 00:27:29,038 --> 00:27:30,997 mycket mer hur människor känner om myror. 629 00:27:31,040 --> 00:27:32,476 [myror kikar] 630 00:27:32,520 --> 00:27:35,436 Som, vi hatar inte myror, 631 00:27:35,479 --> 00:27:37,133 men om vi vill att bygga en motorväg 632 00:27:37,177 --> 00:27:40,180 och det finns en myrstack där, Tja, suger för myrorna. 633 00:27:40,223 --> 00:27:41,529 Det är inte så svårt att förstå. 634 00:27:41,572 --> 00:27:43,226 Det är som, hej, om vi bygger saker 635 00:27:43,270 --> 00:27:44,663 som är smartare än oss 636 00:27:44,706 --> 00:27:46,229 och vi vet inte hur man kontrollerar dem, 637 00:27:46,273 --> 00:27:48,275 verkar det som en riskabel sak för dig? 638 00:27:48,318 --> 00:27:49,363 [dramatisk soundtrack musik spelar] 639 00:27:49,406 --> 00:27:50,843 [skrikande] 640 00:27:50,886 --> 00:27:52,279 Ja. Ja, det gör det. 641 00:27:52,322 --> 00:27:54,020 Du behöver inte vara en tekniker. 642 00:27:54,063 --> 00:27:55,369 Du behöver inte veta programmering för att förstå det. 643 00:27:55,412 --> 00:27:56,718 Det är inte så svårt. 644 00:27:56,762 --> 00:27:58,111 Det här är ingen svår sak att förstå. 645 00:27:58,154 --> 00:28:00,591 Connor, hur många människor 646 00:28:00,635 --> 00:28:02,637 i världen just nu arbetar med AGI? 647 00:28:02,681 --> 00:28:05,466 Minst 20 000 skulle jag säga. 648 00:28:05,509 --> 00:28:07,729 -20 000? -Jag skulle förvänta mig det. 649 00:28:07,773 --> 00:28:09,426 Okej, och hur många människor arbetar heltid 650 00:28:09,470 --> 00:28:12,038 för att se till att AI inte gör det, som, döda oss alla? 651 00:28:12,081 --> 00:28:14,562 Förmodligen mindre än 200 i världen. 652 00:28:16,085 --> 00:28:17,913 DANIEL: Och din inbilskhet är det 653 00:28:17,957 --> 00:28:24,528 det enda naturliga resultatet av denna hänsynslöshet... 654 00:28:25,704 --> 00:28:28,924 ...är mänsklighetens kollaps? 655 00:28:28,968 --> 00:28:33,189 Tja, inte kollapsen, den abrupta utrotningen. 656 00:28:33,233 --> 00:28:35,888 Det är skillnad. 657 00:28:35,931 --> 00:28:37,716 ["Vad är meningen?" av Nun-Plus som spelar] 658 00:28:37,759 --> 00:28:42,590 ♪ Vad är meningen med livet? ♪ 659 00:28:42,633 --> 00:28:46,594 ♪ Vad är framtiden och vad är nu? ♪ 660 00:28:46,637 --> 00:28:49,945 ♪ Vad är svaret till stridigheter? ♪ 661 00:28:49,989 --> 00:28:52,818 ♪ Hur mycket ♪ 662 00:28:52,861 --> 00:28:54,950 ♪ Kan någon drömma? ♪ 663 00:28:54,994 --> 00:28:57,474 ♪ Hur länge? ♪ 664 00:28:57,518 --> 00:28:58,954 ♪ För alltid ♪ 665 00:29:00,216 --> 00:29:01,870 ♪ Vad är meningen ♪ 666 00:29:01,914 --> 00:29:04,133 -♪ Av mig... ♪ -[civilförsvarssiren brölar] 667 00:29:04,177 --> 00:29:06,266 LADISH: Jag tror det här är förmodligen som 668 00:29:06,309 --> 00:29:07,963 den största utmaningen att, liksom, 669 00:29:08,007 --> 00:29:11,271 vår civilisation vilja-vilja möta, någonsin. 670 00:29:11,314 --> 00:29:14,361 Detta är i princip det sista misstag vi någonsin kommer att göra. 671 00:29:16,276 --> 00:29:22,325 Om vi ​​kan höja oss för att vara mest mogen version av oss själva, 672 00:29:22,369 --> 00:29:24,414 det kan finnas en väg igenom detta. 673 00:29:24,458 --> 00:29:25,764 DANIEL: Vad betyder det? 674 00:29:25,807 --> 00:29:27,809 "Den mest mogna versionen av oss själva"? 675 00:29:29,332 --> 00:29:32,205 För det låter, för mig typ... 676 00:29:32,248 --> 00:29:34,250 Jag-jag-- Vad i helvete? 677 00:29:36,731 --> 00:29:39,168 [Daniel suckar] 678 00:29:39,212 --> 00:29:43,216 Tror du nu är en bra tid att skaffa barn? 679 00:29:48,221 --> 00:29:49,396 Um... 680 00:29:49,439 --> 00:29:51,398 Vill du ha barn en dag? 681 00:29:51,441 --> 00:29:53,400 Är det något det där är du intresserad eller inte riktigt? 682 00:29:53,443 --> 00:29:57,796 Um... eh, jag erkänner, Jag tror att det är som, 683 00:29:57,839 --> 00:29:59,972 [skrattar]: "Pojke, låt oss ta det genom denna kritiska period." 684 00:30:00,015 --> 00:30:01,234 Um... 685 00:30:01,277 --> 00:30:02,496 DANIEL: Har du några barn? 686 00:30:02,539 --> 00:30:03,758 Det gör jag inte. 687 00:30:03,802 --> 00:30:05,064 Är det något vill du göra? 688 00:30:05,107 --> 00:30:07,196 Har barn, har familj? 689 00:30:07,240 --> 00:30:11,244 I någon annan värld än denna världen, visst, jag skulle ha barn. 690 00:30:12,593 --> 00:30:14,421 DANIEL: Skulle du vilja att bilda familj? 691 00:30:14,464 --> 00:30:16,379 Skulle du vilja ha barn? 692 00:30:16,423 --> 00:30:18,425 Är det något tänker du på? 693 00:30:23,734 --> 00:30:25,780 jag, um... 694 00:30:28,087 --> 00:30:30,219 ♪ ♪ 695 00:30:30,263 --> 00:30:32,482 CAROLINE: Jag måste bara hitta den först. 696 00:30:32,526 --> 00:30:34,702 [foster hjärtslag pulserar] 697 00:30:34,745 --> 00:30:37,748 Vi måste gå till doktorn, men... 698 00:30:37,792 --> 00:30:41,143 Ah! Jag visste det! Jag visste det! Jag visste det! 699 00:30:41,187 --> 00:30:43,842 -När fick du reda på det? -CAROLINE: Igår kväll. 700 00:30:43,885 --> 00:30:45,931 - Åh, herregud! -Mamma, jag vet inte. 701 00:30:45,974 --> 00:30:47,280 RUTHIE: Jag kan inte berätta för dig 702 00:30:47,323 --> 00:30:49,195 - vad glad jag är! -CAROLINE: Nej, seriöst. 703 00:30:49,238 --> 00:30:51,588 Nåväl, jag tog ett graviditetstest igår kväll, och jag är gravid. 704 00:30:51,632 --> 00:30:53,155 KVINNA: Åh, herregud! 705 00:30:53,199 --> 00:30:55,114 Åh, herregud, ni! 706 00:30:55,157 --> 00:30:57,290 SKÖTERSKA: Jag ville bara bekräfta ditt förväntade förfallodatum, 707 00:30:57,333 --> 00:30:59,945 - vilket är den 21 januari. -[skrattar]: Åh, herregud. 708 00:30:59,988 --> 00:31:02,512 Jag kan inte fatta hur glad jag är. 709 00:31:02,556 --> 00:31:03,905 [foster hjärtslag pulserar] 710 00:31:03,949 --> 00:31:05,472 CAROLINE: Han ser redan riktigt söt ut. 711 00:31:05,515 --> 00:31:07,126 DANIEL: Du tror ser han redan söt ut? 712 00:31:07,169 --> 00:31:08,518 CAROLINE: Ja. Titta på det där lilla söta ansiktet. 713 00:31:10,564 --> 00:31:12,609 [foster hjärtslag bleknar] 714 00:31:13,959 --> 00:31:15,525 DANIEL: Jag har den här bebisen på väg. 715 00:31:15,569 --> 00:31:16,787 TRISTAN HARRIS: Rätt. 716 00:31:16,831 --> 00:31:18,746 DANIEL: Så jag överlämnar det till dig. 717 00:31:18,789 --> 00:31:21,227 Är vi dömda? 718 00:31:21,270 --> 00:31:23,969 Kommer vi alla att möta denna teknodystopiska 719 00:31:24,012 --> 00:31:25,884 undergångens framtid? 720 00:31:28,756 --> 00:31:31,019 Det är, eh... 721 00:31:31,063 --> 00:31:32,586 [skratt]: Det är inga goda nyheter, 722 00:31:32,629 --> 00:31:35,154 världen som vi är på väg in i. 723 00:31:35,197 --> 00:31:36,982 jag-- för ex-- Jag menar, jag ska bara vara ärlig. 724 00:31:37,025 --> 00:31:39,549 Jag känner folk som arbetar med AI-risk 725 00:31:39,593 --> 00:31:42,248 som inte förväntar sig sina barn att ta sig till gymnasiet. 726 00:31:43,249 --> 00:31:45,251 ♪ ♪ 727 00:31:52,127 --> 00:31:53,346 [ljusen klirrar] 728 00:31:58,003 --> 00:32:01,528 DANIEL: Det här är som... det här är faktiskt skrämmande 729 00:32:01,571 --> 00:32:03,051 för det är som, åh, vi är alla [pip]. 730 00:32:03,095 --> 00:32:04,923 CAROLINE: Du måste c... få mig att lugna, 731 00:32:04,966 --> 00:32:06,794 för det här gör mig otroligt orolig 732 00:32:06,837 --> 00:32:08,622 och jag bär barnet just nu, 733 00:32:08,665 --> 00:32:11,625 så du måste också vara lugn för mig och stark och hoppfull, 734 00:32:11,668 --> 00:32:16,412 för jag är... det är det också, det är det för mycket för min själ att bära 735 00:32:16,456 --> 00:32:19,285 medan jag bär den här bebisen. 736 00:32:19,328 --> 00:32:21,243 Så du måste försöka att räkna ut 737 00:32:21,287 --> 00:32:24,159 ett sätt att ha hopp. 738 00:32:24,203 --> 00:32:27,771 Det är verkligen viktigt, Daniel, speciellt nu. 739 00:32:28,772 --> 00:32:30,557 H-Hur man har hopp. 740 00:32:30,600 --> 00:32:33,342 Du måste. Du måste hitta den åt mig. 741 00:32:33,386 --> 00:32:34,909 Jag menar allvar. 742 00:32:34,953 --> 00:32:36,606 Jag ska. 743 00:32:37,825 --> 00:32:40,349 Jag kommer. Jag ska... Jag ska försöka. 744 00:32:46,399 --> 00:32:47,617 [ljusen klirrar] 745 00:32:49,619 --> 00:32:51,404 DANIEL: Hej, killar? 746 00:32:51,447 --> 00:32:52,840 Killar. 747 00:32:54,363 --> 00:32:56,278 Kan vi komma igång igen? 748 00:32:58,411 --> 00:33:01,022 Oj vadt! [suckar] 749 00:33:03,894 --> 00:33:05,331 TED: Öh, Dan, är du redo? 750 00:33:05,374 --> 00:33:06,680 PETER DIAMANDIS: Hej Daniel. 751 00:33:07,724 --> 00:33:09,465 DANIEL: Hej, hur mår du? 752 00:33:09,509 --> 00:33:11,032 DIAMANDIS: Jag är... jag mår bra. 753 00:33:11,076 --> 00:33:13,948 Jag tror, eh... Jag tror Jag behöver lite hjälp, Peter. 754 00:33:15,254 --> 00:33:17,604 Jag har jobbat på den här filmen i ungefär, 755 00:33:17,647 --> 00:33:19,823 Jag ska säga, åtta till tio månader nu. 756 00:33:19,867 --> 00:33:23,262 Det har varit väldigt, ibland, deprimerande. 757 00:33:23,305 --> 00:33:25,612 -Hmm. –Jag har känt mig väldigt alienerad 758 00:33:25,655 --> 00:33:27,744 -gör den här filmen. -Av vem? 759 00:33:27,788 --> 00:33:30,051 Genom alla dessa... alla dessa killar 760 00:33:30,095 --> 00:33:33,228 som sitter och berättar för mig att världen kommer att gå under. 761 00:33:33,272 --> 00:33:34,708 -Ah. - Det, liksom, 762 00:33:34,751 --> 00:33:36,536 du vet, det här doom bullshit, du vet? 763 00:33:36,579 --> 00:33:38,059 Jag vet det väl. 764 00:33:38,103 --> 00:33:39,408 "Vi är alla dömda. Alla kommer att dö. 765 00:33:39,452 --> 00:33:40,931 Allt är hemskt." 766 00:33:40,975 --> 00:33:43,151 Fantastisk. Äh, låt mig ge dig lite ljus. 767 00:33:43,195 --> 00:33:44,718 Behaga. 768 00:33:44,761 --> 00:33:48,156 Vi lever verkligen i en extraordinär tid. 769 00:33:49,418 --> 00:33:51,333 Och många människor glömmer detta. 770 00:33:51,377 --> 00:33:53,640 Allt runt omkring oss är en produkt av intelligens, 771 00:33:53,683 --> 00:33:57,035 och så allt som vi rör vid med dessa nya verktyg är troligt 772 00:33:57,078 --> 00:33:59,646 att producera mycket mer värde än vi någonsin sett förut. 773 00:33:59,689 --> 00:34:02,823 AI kan hjälpa oss att upptäcka nya material. 774 00:34:02,866 --> 00:34:04,999 AI kan hjälpa samhällsvetare 775 00:34:05,043 --> 00:34:07,349 att förstå hur ekonomi fungerar. 776 00:34:07,393 --> 00:34:11,658 Det finns mycket AI kan göra för att göra livet och arbetet bättre. 777 00:34:11,701 --> 00:34:14,095 Jag känner mig mer stärkt idag, 778 00:34:14,139 --> 00:34:16,315 mer självsäker att lära sig något idag. 779 00:34:16,358 --> 00:34:19,057 Vi kommer att bli supermänniskor eftersom vi har super AI. 780 00:34:19,100 --> 00:34:21,798 Det här är bara början av en explosion. 781 00:34:21,842 --> 00:34:24,453 Människor och AI samarbetar 782 00:34:24,497 --> 00:34:26,455 att lösa riktigt viktiga problem. 783 00:34:26,499 --> 00:34:29,763 Den är här för att befria oss från rutinjobb, 784 00:34:29,806 --> 00:34:33,723 och det är här för att påminna oss vad det är som gör oss till människor. 785 00:34:33,767 --> 00:34:35,769 Jag tror att detta är 786 00:34:35,812 --> 00:34:38,598 den mest extraordinära tiden att vara vid liv. 787 00:34:38,641 --> 00:34:42,036 Den enda gången mer spännande än idag är imorgon. 788 00:34:42,080 --> 00:34:45,257 Jag tror det barn födda idag, 789 00:34:45,300 --> 00:34:47,259 de är på väg att gå in 790 00:34:47,302 --> 00:34:50,827 en strålande period av mänsklig förvandling. 791 00:34:50,871 --> 00:34:52,525 Kommer vi att få utmaningar? Naturligtvis. 792 00:34:52,568 --> 00:34:55,180 Kan vi lösa de utmaningarna? Det gör vi varje gång. 793 00:34:55,223 --> 00:34:57,704 Vi är här, vilket är mirakulöst. 794 00:34:57,747 --> 00:35:00,272 -Jag älskar dig redan. -[skratt]: Okej. 795 00:35:00,315 --> 00:35:01,925 -Super tacksam att ha dig här. -[applåder] 796 00:35:01,969 --> 00:35:03,362 -Super peppad att vara här. -Ja. 797 00:35:03,405 --> 00:35:04,885 Så, ordet är ditt, sir. 798 00:35:04,928 --> 00:35:07,409 Tack så mycket. Superglad över att vara här. 799 00:35:07,453 --> 00:35:10,586 GUILLAUME VERDON: Yo, yo. Okej. 800 00:35:10,630 --> 00:35:12,284 Framtiden kommer att bli fantastisk. 801 00:35:12,327 --> 00:35:14,286 Jag menar, ända sedan jag var liten, 802 00:35:14,329 --> 00:35:17,332 Jag ville förstå universum vi lever i, 803 00:35:17,376 --> 00:35:20,422 för att ta reda på hur man skapar teknikerna 804 00:35:20,466 --> 00:35:23,991 som hjälper oss att öka omfattningen och civilisationens omfattning. 805 00:35:24,034 --> 00:35:26,689 Jag känner mig som om alla hade det tänkesättet, 806 00:35:26,733 --> 00:35:29,214 då skulle vi faktiskt leva i en bättre värld, eller hur? 807 00:35:29,257 --> 00:35:30,519 Jag tror det. 808 00:35:32,782 --> 00:35:34,697 -DANIEL: Hej, Pete. Hur mår du? -[skratt] 809 00:35:34,741 --> 00:35:36,525 PETER LEE: Jag tänkte mycket på 810 00:35:36,569 --> 00:35:39,049 vad jag skulle kalla skräck, AI fruktan. 811 00:35:39,093 --> 00:35:40,703 Jag känner det. 812 00:35:40,747 --> 00:35:43,271 Jag-jag har inte träffats någon tankeväckande människa 813 00:35:43,315 --> 00:35:45,143 som inte känner det. 814 00:35:45,186 --> 00:35:48,276 Och alla som säger att de inte gör det känner att det, du vet, ljuger. 815 00:35:48,320 --> 00:35:50,104 Men du vet, totalt sett, och anledningen 816 00:35:50,148 --> 00:35:53,716 att jag personligen är optimistisk om detta, eh, är det 817 00:35:53,760 --> 00:35:56,545 en stor bråkdel av världens mest intelligenta människor 818 00:35:56,589 --> 00:35:58,417 tänker väldigt hårt 819 00:35:58,460 --> 00:36:02,116 om potentialen nedströms skador och risker med AI. 820 00:36:02,160 --> 00:36:05,641 Vi har den här sortens visioner av säkerhet, eh, 821 00:36:05,685 --> 00:36:08,253 typ i centrum av den forskning vi gör. 822 00:36:08,296 --> 00:36:09,558 DANIELA AMODEI: Nej, det är helt okej. 823 00:36:09,602 --> 00:36:10,820 [otydligt prat] 824 00:36:10,864 --> 00:36:13,562 Jag tror att det finns fler 825 00:36:13,606 --> 00:36:17,436 potentiella fördelar än det finns potentiella nackdelar, 826 00:36:17,479 --> 00:36:19,481 och jag tycker att det är det som gäller 827 00:36:19,525 --> 00:36:21,831 människorna som är skapa denna teknik 828 00:36:21,875 --> 00:36:24,530 för att se till att vi gör det det bästa jobbet vi kan 829 00:36:24,573 --> 00:36:25,835 för att göra det säkert för människor. 830 00:36:25,879 --> 00:36:27,402 KVINNA: Reid Hoffman. 831 00:36:27,446 --> 00:36:28,969 REID HOFFMAN: Det jag kan garantera dig är 832 00:36:29,012 --> 00:36:30,536 -några dåliga saker kommer att hända. -Ta en. 833 00:36:30,579 --> 00:36:32,668 Vad vi ska försöka göra är att göra de där dåliga sakerna 834 00:36:32,712 --> 00:36:36,150 så få och inte stora som möjligt, 835 00:36:36,194 --> 00:36:38,370 och sedan ska vi iterera att ha-- 836 00:36:38,413 --> 00:36:40,633 vara på en mycket bättre plats med samhället. 837 00:36:40,676 --> 00:36:43,679 -Hej. -SHAW WALTERS: Hej. 838 00:36:43,723 --> 00:36:45,246 DANIEL: Hur mår du, Moon? 839 00:36:45,290 --> 00:36:48,989 Jag känner att vi tar slut ett kapitel i mänskligheten 840 00:36:49,032 --> 00:36:50,512 och börjar en ny, 841 00:36:50,556 --> 00:36:53,211 och det är väldigt intressant dags att vara vid liv. 842 00:36:53,254 --> 00:36:54,429 Och om jag kunde födas just nu, 843 00:36:54,473 --> 00:36:55,865 Det skulle jag definitivt vilja vara. 844 00:36:55,909 --> 00:36:57,476 Det skulle vara så spännande. 845 00:36:57,519 --> 00:37:00,305 Jag-jag är väldigt exalterad. [skrattar] 846 00:37:00,348 --> 00:37:02,481 Vadå, vilken framtid. Upphetsar det... upphetsar dig? 847 00:37:02,524 --> 00:37:03,699 Nej. 848 00:37:03,743 --> 00:37:06,528 -[skrattar] -Nej, inte riktigt. 849 00:37:06,572 --> 00:37:08,313 DANIEL: Många av dessa människor har berättat att du vet, 850 00:37:08,356 --> 00:37:10,445 mitt barn kommer inte att klara det till gymnasiet. 851 00:37:10,489 --> 00:37:13,318 Varför har de fel? Snälla förklara det för mig. 852 00:37:13,361 --> 00:37:15,058 Bara för att du har-- 853 00:37:15,102 --> 00:37:18,845 du kämpar för att förutsäga framtiden i ditt eget sinne 854 00:37:18,888 --> 00:37:23,023 betyder inte att det är det nödvändigtvis kommer att gå hemskt. 855 00:37:23,066 --> 00:37:26,592 Det finns faktiskt en mycket hög sannolikhet 856 00:37:26,635 --> 00:37:28,289 och det historiska prejudikatet är det 857 00:37:28,333 --> 00:37:30,117 saker blir mycket bättre. 858 00:37:30,160 --> 00:37:34,469 Termen jag använder är "datadriven optimism." 859 00:37:34,513 --> 00:37:38,647 Det finns en solid grund för att du ska vara optimistisk. 860 00:37:38,691 --> 00:37:41,998 Titta på vad det här senaste århundradet har varit 861 00:37:42,042 --> 00:37:44,087 för att se vart vi är på väg. 862 00:37:44,131 --> 00:37:45,915 Under de senaste hundra åren, 863 00:37:45,959 --> 00:37:48,701 den genomsnittliga mänskliga livslängden har mer än fördubblats. 864 00:37:48,744 --> 00:37:51,269 Genomsnittlig inkomst per capita justerat för inflation 865 00:37:51,312 --> 00:37:53,619 världen har tredubblats. 866 00:37:53,662 --> 00:37:57,057 Barndödligheten har komma ner en faktor tio. 867 00:37:57,100 --> 00:37:59,712 Världen har blivit bättre på nästan varje åtgärd 868 00:37:59,755 --> 00:38:03,019 i storleksordningar på grund av tekniken. 869 00:38:03,063 --> 00:38:05,152 På nästan alla mått. 870 00:38:05,195 --> 00:38:09,722 Mindre våld, mer utbildning, tillgång till energi, mat, vatten. 871 00:38:09,765 --> 00:38:12,942 Alla dessa saker har hänt av en anledning. 872 00:38:12,986 --> 00:38:15,336 Det har varit teknik 873 00:38:15,380 --> 00:38:17,556 som har vänt bristen i överflöd, 874 00:38:17,599 --> 00:38:19,514 men det är också kört till ett överflöd 875 00:38:19,558 --> 00:38:21,864 av vissa negativiteter, eller hur? 876 00:38:21,908 --> 00:38:25,738 Överflöd av fetma, överflöd av psykiska störningar, 877 00:38:25,781 --> 00:38:29,437 överflöd av klimatförändringar, och så vidare. 878 00:38:29,481 --> 00:38:31,309 Och ja, detta är sant. 879 00:38:31,352 --> 00:38:34,094 Men förmodligen kommer vi att bli det bättre rustad att lösa det 880 00:38:34,137 --> 00:38:36,226 använda annan teknik, som AI, 881 00:38:36,270 --> 00:38:39,273 än vi kommer att, säg, stoppa och stänger av allt. 882 00:38:39,317 --> 00:38:41,449 Det kanske finns någon existentiell risk, 883 00:38:41,493 --> 00:38:45,323 men AI är också grejen som kan lösa pandemierna, 884 00:38:45,366 --> 00:38:47,455 kan hjälpa oss med klimatförändringar, 885 00:38:47,499 --> 00:38:50,545 kan hjälpa till att identifiera den där asteroidvägen där ute 886 00:38:50,589 --> 00:38:52,547 innan vi sett den som en potentiell risk 887 00:38:52,591 --> 00:38:54,332 och hjälpa till att lindra det. 888 00:38:54,375 --> 00:38:58,074 Det här kommer verkligen att bli verktyget som hjälper oss att tackla 889 00:38:58,118 --> 00:39:01,426 alla utmaningar vi står inför inför som en art, eller hur? 890 00:39:01,469 --> 00:39:04,167 Vi måste fixa avsaltning av vatten. 891 00:39:04,211 --> 00:39:05,995 Vi behöver odla mat 892 00:39:06,039 --> 00:39:08,433 100 X billigare än vi gör för närvarande. 893 00:39:08,476 --> 00:39:12,350 Vi behöver förnybar energi för att vara, du vet, allestädes närvarande 894 00:39:12,393 --> 00:39:14,047 och överallt i våra liv. 895 00:39:14,090 --> 00:39:17,137 Vart du än ser, under de kommande 50 åren, 896 00:39:17,180 --> 00:39:19,269 vi måste göra mer med mindre. 897 00:39:19,313 --> 00:39:23,186 Träningsmaskiner för att hjälpa oss är absolut nödvändigt. 898 00:39:23,230 --> 00:39:24,797 Forskare använder artificiell intelligens 899 00:39:24,840 --> 00:39:25,972 för kolavskiljning. 900 00:39:26,015 --> 00:39:27,582 Det är en kritisk teknik. 901 00:39:27,626 --> 00:39:29,541 DIAMANDIS: Verktygen för att lösa dessa problem, 902 00:39:29,584 --> 00:39:32,195 som fusion, det är inte teoretiskt längre, 903 00:39:32,239 --> 00:39:33,980 det kommer. 904 00:39:34,023 --> 00:39:37,723 Vi är på stupet av extraordinära tekniker. 905 00:39:37,766 --> 00:39:39,986 AMNA NAWAZ: Årets Nobelpriset i kemi 906 00:39:40,029 --> 00:39:42,815 gick till tre vetenskapsmän för deras banbrytande arbete 907 00:39:42,858 --> 00:39:44,556 med hjälp av artificiell intelligens 908 00:39:44,599 --> 00:39:47,297 att avancera biomedicinskt och proteinforskning. 909 00:39:47,341 --> 00:39:49,691 DEMIS HASSABIS: Proteinvikning är 910 00:39:49,735 --> 00:39:53,608 en av dessa heliga gral typproblem i biologi. 911 00:39:53,652 --> 00:39:55,741 Så folk har förutspått sedan 70-talet 912 00:39:55,784 --> 00:39:58,091 att detta ska vara möjligt, men tills nu, 913 00:39:58,134 --> 00:39:59,571 ingen har kunnat göra det. 914 00:39:59,614 --> 00:40:01,181 Och det kommer att bli verkligen viktigt för saker och ting 915 00:40:01,224 --> 00:40:03,618 som drogupptäckt och förstå sjukdom. 916 00:40:03,662 --> 00:40:06,534 Jag tror att vi skulle kunna, du vet, bota de flesta sjukdomar 917 00:40:06,578 --> 00:40:11,931 inom det närmaste decenniet eller-två om, eh, AI-läkemedelsdesign fungerar. 918 00:40:11,974 --> 00:40:15,630 Tekniska framsteg möjliggör fler människoliv, eller hur? 919 00:40:15,674 --> 00:40:18,677 Jag menar, om vi accelererar, 920 00:40:18,720 --> 00:40:21,723 antalet människor vi kan stödet växer exponentiellt. 921 00:40:21,767 --> 00:40:24,073 Om vi ​​saktar ner blir det platåer. 922 00:40:24,117 --> 00:40:27,729 Det gapet är effektivt framtida människor 923 00:40:27,773 --> 00:40:31,341 som inbromsningen har effektivt dödade. 924 00:40:31,385 --> 00:40:33,909 DANIEL: Miljontals liv som inte kommer att finnas. 925 00:40:33,953 --> 00:40:35,128 Miljarder. 926 00:40:35,171 --> 00:40:36,782 Eller tiotals miljarder. 927 00:40:36,825 --> 00:40:38,436 Du vet, någon sa, "Åh, herregud, 928 00:40:38,479 --> 00:40:40,655 kan vi överleva med digital superintelligens?" 929 00:40:40,699 --> 00:40:42,309 Och min fråga är: 930 00:40:42,352 --> 00:40:44,180 Kan vi överleva utan digital superintelligens? 931 00:40:44,224 --> 00:40:47,575 Så vi använder AI som assistent till leverantörer. 932 00:40:47,619 --> 00:40:50,448 Detta är i allmänhet en trend som vi kan redan se hända. 933 00:40:50,491 --> 00:40:52,319 BERTHA COOMBS: ... utnyttjar generativa AI-program 934 00:40:52,362 --> 00:40:54,060 att hjälpa läkare och sjuksköterskor... 935 00:40:54,103 --> 00:40:56,062 Vi har alltid problem. 936 00:40:56,105 --> 00:40:59,108 Och de problemen är mat för företagare 937 00:40:59,152 --> 00:41:01,154 att skapa nya affärer och nya industrier. 938 00:41:01,197 --> 00:41:03,069 SHANELLE KAUL: ...med hjälp av artificiell intelligens, 939 00:41:03,112 --> 00:41:04,766 bönder får den hjälp de behöver 940 00:41:04,810 --> 00:41:06,594 att utföra arbetsintensiva uppgifter... 941 00:41:06,638 --> 00:41:10,163 Med hjälp av Ulangizi AI, bönderna kan nu 942 00:41:10,206 --> 00:41:12,948 att fråga lämpliga grödor att de kan plantera. 943 00:41:12,992 --> 00:41:14,950 WILL REEVE: ...AI används som en tankeavkodare 944 00:41:14,994 --> 00:41:17,387 och skickar den signalen till ryggraden. 945 00:41:17,431 --> 00:41:21,609 AI kommer att bli mest extraordinärt verktyg av alla. 946 00:41:21,653 --> 00:41:24,264 Vi som ett bredare samhälle måste tänka på 947 00:41:24,307 --> 00:41:27,049 hur vill vi använda denna teknik, eller hur? 948 00:41:27,093 --> 00:41:28,529 Vi människor. 949 00:41:28,573 --> 00:41:31,097 Vad vill vi att den ska göra för oss? 950 00:41:31,140 --> 00:41:34,535 ♪ ♪ 951 00:41:34,579 --> 00:41:36,189 DANIEL: Jag funderar på det här genom perspektivet 952 00:41:36,232 --> 00:41:37,886 och lins av, som, min son växer upp 953 00:41:37,930 --> 00:41:39,540 i världen med allt detta. 954 00:41:39,584 --> 00:41:42,238 Vad gör den bästa versionen av hans liv ser ut? 955 00:41:42,282 --> 00:41:44,589 Om allt löser sig. 956 00:41:44,632 --> 00:41:46,808 [suckar tungt] 957 00:41:46,852 --> 00:41:50,246 WALTERS: Platsen där barnen kommer nog se 958 00:41:50,290 --> 00:41:52,684 den största effekten på deras liv omedelbart 959 00:41:52,727 --> 00:41:54,424 - Det blir nog skola. -[barn pratar] 960 00:41:54,468 --> 00:41:56,688 Jag tror att naturen av vad skola är 961 00:41:56,731 --> 00:41:58,472 kommer att förändras i grunden. 962 00:41:58,516 --> 00:42:00,474 [barn fnissar] 963 00:42:00,518 --> 00:42:02,737 DIAMANDIS: Jag ser denna fantastiska värld 964 00:42:02,781 --> 00:42:06,436 där alla barn har tillgång till inte bra utbildning 965 00:42:06,480 --> 00:42:09,091 men mycket snart världens bästa utbildning. 966 00:42:09,135 --> 00:42:13,879 HOFFMAN: Lärare, alla ämnen, oändligt tålamod. 967 00:42:18,013 --> 00:42:20,059 DIAMANDIS: Föreställ dig en framtid 968 00:42:20,102 --> 00:42:22,235 där de fattigaste människorna på planeten 969 00:42:22,278 --> 00:42:25,804 har tillgång till den bästa sjukvården. 970 00:42:25,847 --> 00:42:29,547 Inte bra sjukvård, den bästa hälsovård, levererad av AI:er. 971 00:42:31,157 --> 00:42:32,767 [elektronisk trilling] 972 00:42:34,334 --> 00:42:38,556 Vi kommer att kunna förlänga vår hälsa span, 973 00:42:38,599 --> 00:42:42,168 inte bara vår livslängd, vår hälsa spanar i årtionden. 974 00:42:44,431 --> 00:42:46,215 HOFFMAN: Du ska precis skaffa ett barn. 975 00:42:46,259 --> 00:42:49,697 Åh, barnets, liksom, rapar okontrollerat. 976 00:42:49,741 --> 00:42:52,047 Är detta något Jag borde vara orolig? 977 00:42:52,091 --> 00:42:54,223 Där, 24-7, för dig. 978 00:42:54,267 --> 00:42:57,183 Och vart ska vi... och det kan vara skrämmande för vissa-- 979 00:42:57,226 --> 00:42:59,228 är att vi kommer att gå samman med AI. 980 00:42:59,272 --> 00:43:01,361 Vi går samman med teknik. 981 00:43:02,667 --> 00:43:06,105 I början till mitten av 2030-talet, 982 00:43:06,148 --> 00:43:10,457 förvänta oss att vi kan koppla vår hjärna till molnet, 983 00:43:10,500 --> 00:43:13,721 där jag kan börja för att utöka åtkomsten till minnet. 984 00:43:16,071 --> 00:43:18,030 [elektronisk trilling] 985 00:43:19,771 --> 00:43:22,077 DANIEL: Okej, det här är bra. Vad är en annan cool AI-grej? 986 00:43:22,121 --> 00:43:23,775 Han behöver väl inte jobba? 987 00:43:23,818 --> 00:43:25,167 - Som när han blir stor, han kanske inte har... -[suckar] 988 00:43:25,211 --> 00:43:26,212 -...han kommer inte behöva ha ett jobb. -Jag menar... 989 00:43:26,255 --> 00:43:27,779 Han behöver inte ha ett jobb, 990 00:43:27,822 --> 00:43:30,608 men det kanske han verkligen har en stark passion, 991 00:43:30,651 --> 00:43:33,132 och han måste verkligen tänka på, 992 00:43:33,175 --> 00:43:36,091 "Okej, jag är här. Jag kan göra vad som helst med mitt liv. 993 00:43:36,135 --> 00:43:37,876 Så vad gör jag?" 994 00:43:38,920 --> 00:43:40,182 Vi måste hitta en mening, 995 00:43:40,226 --> 00:43:42,620 bortom som, denna nuvarande form av 996 00:43:42,663 --> 00:43:45,666 vi lever för arbetet och arbeta för att leva. 997 00:43:45,710 --> 00:43:49,844 DANIEL: Så min son kan... kan bara vara en poet. 998 00:43:49,888 --> 00:43:51,541 -Ja. -Och en målare. 999 00:43:51,585 --> 00:43:53,021 Absolut. 1000 00:43:53,065 --> 00:43:54,849 DANIEL: Så min son kan leva sitt liv 1001 00:43:54,893 --> 00:43:57,591 på en grekisk solpinad ö, måla hela dagen. 1002 00:43:57,635 --> 00:43:59,114 YU: Absolut. Möjligt. 1003 00:44:00,072 --> 00:44:01,203 Absolut. 1004 00:44:01,247 --> 00:44:02,944 Tja, vi jobbar mot det 1005 00:44:02,988 --> 00:44:04,554 det är mycket jobb att göra innan vi kommer dit. 1006 00:44:06,992 --> 00:44:08,776 VERDON: Jag menar, om allt fungerar, 1007 00:44:08,820 --> 00:44:11,997 vi har billiga, eh, riklig energi. 1008 00:44:13,607 --> 00:44:17,219 Vi kan helt kontrollera vår planets klimat. 1009 00:44:17,263 --> 00:44:20,135 Vi tar tillvara energi från solen. 1010 00:44:20,179 --> 00:44:24,400 Vi har blivit multipanetära, så vi blir väldigt robusta. 1011 00:44:24,444 --> 00:44:26,664 Vi utnyttjar mineraler och resurser 1012 00:44:26,707 --> 00:44:28,404 från solsystemet. 1013 00:44:28,448 --> 00:44:31,233 DANIEL: Så min... min pojke kunde åka till rymden. 1014 00:44:31,277 --> 00:44:32,887 VERDON: Visst. 1015 00:44:32,931 --> 00:44:34,715 -DANIEL: Han skulle kunna åka till Mars. -VERDON: Ja. 1016 00:44:34,759 --> 00:44:36,369 DANIEL: Det är så kristallklart för mig nu. 1017 00:44:36,412 --> 00:44:39,198 Min son skulle kunna växa upp i en värld utan sjukdom. 1018 00:44:39,241 --> 00:44:40,590 -VERDON: Ja. - Utan sjukdom. 1019 00:44:40,634 --> 00:44:41,896 -Säker. - Utan fattigdom. 1020 00:44:41,940 --> 00:44:43,681 -Ja. -Vi är på väg att gå in 1021 00:44:43,724 --> 00:44:46,640 en värld efter knapphet. 1022 00:44:46,684 --> 00:44:50,470 Precis som lungfisken rörde sig ut ur haven till land 1023 00:44:50,513 --> 00:44:53,081 hundratals miljoner för år sedan, 1024 00:44:53,125 --> 00:44:57,999 vi är på väg att flytta från jorden, in i kosmos, 1025 00:44:58,043 --> 00:44:59,871 på ett samarbetssätt, 1026 00:44:59,914 --> 00:45:03,744 att göra saker som är inte begripligt för oss idag. 1027 00:45:06,268 --> 00:45:09,184 Detta är vad som är möjligt att använda dessa exponentiella teknologier 1028 00:45:09,228 --> 00:45:10,708 och dessa AI:er. 1029 00:45:11,839 --> 00:45:13,928 Låt oss använda dessa verktyg 1030 00:45:13,972 --> 00:45:16,104 att skapa denna tidsålder av överflöd. 1031 00:45:16,148 --> 00:45:18,150 [elektroniskt klick] 1032 00:45:20,500 --> 00:45:22,937 Vi behöver visdom. 1033 00:45:22,981 --> 00:45:25,984 Jag tror det digital superintelligens 1034 00:45:26,027 --> 00:45:28,726 i slutändan kommer att bli den klokaste, 1035 00:45:28,769 --> 00:45:34,253 du vet, byns äldste för mänskligheten. 1036 00:45:34,296 --> 00:45:37,996 Tänk om AI försöker att få människor att vara 1037 00:45:38,039 --> 00:45:39,737 de bästa versionerna av sig själva? 1038 00:45:39,780 --> 00:45:41,347 Tänk om det expanderar 1039 00:45:41,390 --> 00:45:43,392 vad som är mänskligt möjligt för oss att göra? 1040 00:45:43,436 --> 00:45:46,656 Hur kan vi använda denna teknik 1041 00:45:46,700 --> 00:45:49,921 att hjälpa till att ta fram bättre änglar i vår natur? 1042 00:45:49,964 --> 00:45:51,661 Det är väldigt lätt, 1043 00:45:51,705 --> 00:45:54,316 när vi möter nya saker som kan vara väldigt främmande, 1044 00:45:54,360 --> 00:45:55,927 att först ha rädsla. 1045 00:45:55,970 --> 00:45:57,493 Rädsla är en viktig sak 1046 00:45:57,537 --> 00:46:00,322 för hur man navigerar potentiellt dåliga saker. 1047 00:46:00,366 --> 00:46:03,717 Men vi gör bara framsteg när vi har hopp. 1048 00:46:03,761 --> 00:46:05,719 -[hund skäller] -[otydligt prat] 1049 00:46:05,763 --> 00:46:07,895 DANIEL: Shh. Älg, sluta. 1050 00:46:07,939 --> 00:46:10,811 HOFFMAN: Jag har mycket av hopp i mänskligheten. 1051 00:46:10,855 --> 00:46:13,814 ["Harvest Moon" av Neil Young spelar över telefon] 1052 00:46:15,294 --> 00:46:17,296 [foster hjärtslag pulserar] 1053 00:46:18,471 --> 00:46:19,951 DANIEL: Åh, han gillar Neil. 1054 00:46:24,694 --> 00:46:27,480 ♪ Kom lite närmare ♪ 1055 00:46:28,916 --> 00:46:32,790 ♪ Hör vad jag har att säga ♪ 1056 00:46:36,576 --> 00:46:38,665 -Daniel. -DANIEL: Vadå, Caroline? 1057 00:46:38,708 --> 00:46:40,058 Så mycket filmande. 1058 00:46:41,537 --> 00:46:43,061 ♪ Precis som barn som sover ♪ 1059 00:46:43,104 --> 00:46:44,889 CAROLINE: Åh, herregud. 1060 00:46:44,932 --> 00:46:46,368 DANIEL: Det är allt. 1061 00:46:46,412 --> 00:46:49,415 ♪ Vi kunde drömma denna kväll... ♪ 1062 00:46:49,458 --> 00:46:51,678 Han har liksom ett litet runt ansikte. 1063 00:46:53,245 --> 00:46:55,203 DANIEL: Vill du skaffa barn en dag, Rocky? 1064 00:46:55,247 --> 00:46:57,423 Absolut. Ja. Jag älskar barn. 1065 00:46:57,466 --> 00:46:59,033 Jag tycker att det är en bra tid att få ett barn. 1066 00:46:59,077 --> 00:47:00,730 Vi får nog ett barn till någon gång. 1067 00:47:00,774 --> 00:47:03,733 Detta är det mest extraordinära tid att någonsin födas. 1068 00:47:03,777 --> 00:47:05,823 DANIEL: Med din världsbild och logik, 1069 00:47:05,866 --> 00:47:07,868 Jag skaffar barn kl 1070 00:47:07,912 --> 00:47:09,478 bästa möjliga punkt i mänsklighetens historia. 1071 00:47:09,522 --> 00:47:10,828 Helvete ja. 1072 00:47:10,871 --> 00:47:13,308 -Vi kan fokusera på häftigt. -Ja. 1073 00:47:13,352 --> 00:47:15,528 Låt oss bygga desto bättre framtid vill vi ha. 1074 00:47:15,571 --> 00:47:18,313 Den där berättelsen om framtiden kommer att vara dyster är påhittad. 1075 00:47:18,357 --> 00:47:20,011 Efter att ha pratat med dig, det är typ så jag känner. 1076 00:47:20,054 --> 00:47:21,969 -Det är jättebra. -Rätt? 1077 00:47:22,013 --> 00:47:24,189 Ja. Det är så jag känner. 1078 00:47:24,232 --> 00:47:25,799 Och det tycker jag är bättre, 1079 00:47:25,843 --> 00:47:27,627 och jag tror inte Jag borde vara så [pip] orolig. 1080 00:47:27,670 --> 00:47:29,063 Jag tror att det kommer att bli vördnadsfullt... framtiden kommer att bli fantastisk. 1081 00:47:29,107 --> 00:47:30,499 Vi ska göra det så. 1082 00:47:30,543 --> 00:47:32,675 -Ja. -CAROLINE: Så där har du det. 1083 00:47:32,719 --> 00:47:34,808 Adjö, mänsklig utrotning. 1084 00:47:34,852 --> 00:47:37,158 Adjö, ångest. 1085 00:47:37,202 --> 00:47:39,030 Hopp hittat. 1086 00:47:39,073 --> 00:47:40,553 [otydligt prat] 1087 00:47:40,596 --> 00:47:42,860 Vänta, vänta. Vad? Är detta ett skämt? 1088 00:47:42,903 --> 00:47:44,774 DANIEL: Okej, så för några månader sedan, 1089 00:47:44,818 --> 00:47:47,690 Jag kom till dig och jag var som, "Jag jobbar på den här AI-grejen, 1090 00:47:47,734 --> 00:47:49,867 och jag tror världen kommer att gå under." 1091 00:47:49,910 --> 00:47:52,913 Och sista gången vi pratade om detta, 1092 00:47:52,957 --> 00:47:55,002 Jag tror att jag skrämde dig. 1093 00:47:55,046 --> 00:47:57,004 CAROLINE: Ja. 1094 00:47:57,048 --> 00:48:02,314 Så jag känner liksom Jag har svängt in-- på en pendel, 1095 00:48:02,357 --> 00:48:04,446 och i princip finns det två grupper av människor. 1096 00:48:04,490 --> 00:48:06,057 -Mm-hmm. -Och om jag måste, typ, 1097 00:48:06,100 --> 00:48:07,841 hålla hand med en av grupperna och som 1098 00:48:07,885 --> 00:48:10,278 segla in i solnedgången, 1099 00:48:10,322 --> 00:48:13,281 Jag vill vara med optimisterna. 1100 00:48:15,066 --> 00:48:17,982 Naturligtvis, men det gör du inte vill vara, du vet, 1101 00:48:18,025 --> 00:48:20,723 "Allt är jättebra. La-di-da-di-da." 1102 00:48:20,767 --> 00:48:22,682 Jag vill ändå ha det. 1103 00:48:22,725 --> 00:48:25,598 Jag tycker att vi ska närma oss det 1104 00:48:25,641 --> 00:48:29,341 som att du närmar dig operation. 1105 00:48:29,384 --> 00:48:30,690 Vad menar du? 1106 00:48:30,733 --> 00:48:32,431 Om du får hjärnkirurgi... 1107 00:48:32,474 --> 00:48:34,781 -[Daniel suckar] -[Caroline skrattar] 1108 00:48:34,824 --> 00:48:36,957 ...det är ganska farligt. 1109 00:48:37,001 --> 00:48:39,829 Men om du gör det rätt, de kommer att få ut den där tumören 1110 00:48:39,873 --> 00:48:42,354 och du kommer att leva för resten av ditt liv och det kommer att bli fantastiskt. 1111 00:48:42,397 --> 00:48:45,096 Men det är fortfarande otroligt farligt och skrämmande, 1112 00:48:45,139 --> 00:48:47,968 och du måste ta alla möjliga försiktighetsåtgärder 1113 00:48:48,012 --> 00:48:51,276 för att vara säker allt går bra. 1114 00:48:51,319 --> 00:48:52,668 Du kan inte [pipa] runt. 1115 00:48:57,760 --> 00:48:59,762 Okej, så här är affären. 1116 00:48:59,806 --> 00:49:01,503 -Jag har varit med om det här ett tag. -RASKIN: Mm-hmm. 1117 00:49:01,547 --> 00:49:02,896 Jag har gått ut, Jag har pratat med, typ 1118 00:49:02,940 --> 00:49:04,767 de här killarna här, optimisterna. 1119 00:49:04,811 --> 00:49:06,465 De är väldigt exalterade över detta. 1120 00:49:06,508 --> 00:49:08,510 -De tror att AI kommer att bli det det bästa någonsin. -Ja. 1121 00:49:08,554 --> 00:49:09,947 Och de här killarna här är liksom-- 1122 00:49:09,990 --> 00:49:11,992 låt oss ringa dem, som pessimisterna. 1123 00:49:12,036 --> 00:49:14,299 De är väldigt, som dyster över detta, 1124 00:49:14,342 --> 00:49:16,649 och de skrämmer mig, och Jag gillar inte att prata med dem. 1125 00:49:16,692 --> 00:49:19,565 Och jag är liksom inklämd däremellan 1126 00:49:19,608 --> 00:49:21,741 dessa människor som är som, "Världen kommer att gå under" 1127 00:49:21,784 --> 00:49:24,178 och sedan dessa människor här som är som, 1128 00:49:24,222 --> 00:49:25,745 "Skämtar du? 1129 00:49:25,788 --> 00:49:27,268 "Det här är den bästa tiden i mänsklighetens historia någonsin. 1130 00:49:27,312 --> 00:49:29,357 Enda dagen bättre än idag är imorgon." 1131 00:49:29,401 --> 00:49:30,880 Mm-hmm. 1132 00:49:30,924 --> 00:49:34,710 Så jag antar att frågan är: Vem har rätt? 1133 00:49:34,754 --> 00:49:39,193 Så jag tror att du kommer att hitta detta svar mycket otillfredsställande, 1134 00:49:39,237 --> 00:49:42,849 men de har båda rätt och ingen sida går tillräckligt långt. 1135 00:49:46,766 --> 00:49:49,247 -Det är riktigt irriterande. -[skratt] 1136 00:49:49,290 --> 00:49:51,336 Ja, jag tänker på sättet många människor hör om AI, 1137 00:49:51,379 --> 00:49:53,642 det är som att det finns en bra AI och det finns en dålig AI. 1138 00:49:53,686 --> 00:49:56,428 Och de säger, "Tja, varför kan inte det gör vi bara inte den dåliga AI?" 1139 00:49:56,471 --> 00:49:58,734 Och problemet är att de är för inne-- 1140 00:49:58,778 --> 00:50:00,867 de är oupplösligt förbundna. 1141 00:50:00,910 --> 00:50:03,043 Problemet är att vi inte kan skiljas åt 1142 00:50:03,087 --> 00:50:06,612 löftet om AI från faran med AI. 1143 00:50:06,655 --> 00:50:08,266 -♪ ♪ -[otydligt prat] 1144 00:50:12,313 --> 00:50:14,663 DANIEL: Jag vill fokusera på löftet 1145 00:50:14,707 --> 00:50:16,752 -för en sekund. -Ja. 1146 00:50:16,796 --> 00:50:18,798 DANIEL: Jag tänker på min pappa. 1147 00:50:18,841 --> 00:50:21,105 Min pappa har en typ av cancer kallas multipelt myelom. 1148 00:50:21,148 --> 00:50:23,107 Han har haft det i ungefär tio år. 1149 00:50:23,150 --> 00:50:24,804 Han har haft två stamcellstransplantationer. 1150 00:50:24,847 --> 00:50:26,414 Han måste ta dessa, typ väldigt dyrt 1151 00:50:26,458 --> 00:50:28,547 mediciner varje månad som kostade en förmögenhet. 1152 00:50:28,590 --> 00:50:29,722 - KVINNAN: Okej. -Aaaaaaaaa. 1153 00:50:30,766 --> 00:50:32,551 DANIEL: Det är hemskt. 1154 00:50:32,594 --> 00:50:34,466 Du säger att vi kan skapa något slags, som, 1155 00:50:34,509 --> 00:50:36,946 skräddarsydd behandling för min pappas arvsmassa 1156 00:50:36,990 --> 00:50:39,297 -att bota sin cancer eller något sånt? -Ja. 1157 00:50:39,340 --> 00:50:41,168 FERNANDO: Problemet är, 1158 00:50:41,212 --> 00:50:44,302 samma förståelse av biologi och kemi 1159 00:50:44,345 --> 00:50:47,783 som gör att AI kan hitta botemedel för cancer 1160 00:50:47,827 --> 00:50:51,657 är samma förståelse som skulle låsa upp 1161 00:50:51,700 --> 00:50:54,094 biovapen, som ett exempel. 1162 00:50:56,531 --> 00:50:58,490 Det är fullt möjligt att din son ska leva 1163 00:50:58,533 --> 00:51:01,928 i en värld där AI har tagit över allt arbete 1164 00:51:01,971 --> 00:51:04,452 och befriade oss från sakerna vi vill inte göra. 1165 00:51:04,496 --> 00:51:09,153 Och det låter bra tills du inser att det inte finns någon plan 1166 00:51:09,196 --> 00:51:11,242 för miljarder människor 1167 00:51:11,285 --> 00:51:16,116 som saknar inkomst och utan försörjning. 1168 00:51:16,160 --> 00:51:18,771 COOPER: Dario, sa du som AI skulle kunna utplåna 1169 00:51:18,814 --> 00:51:21,730 hälften av alla nybörjarnivåer tjänstemannajobb 1170 00:51:21,774 --> 00:51:25,430 och ökar arbetslösheten till tio till 20 procent. 1171 00:51:25,473 --> 00:51:27,258 Alla jag har pratat med har sagt 1172 00:51:27,301 --> 00:51:29,390 denna tekniska förändring ser annorlunda ut. 1173 00:51:29,434 --> 00:51:34,134 Framstegstakten håller i sig fånga folk ur vakt. 1174 00:51:34,178 --> 00:51:38,834 Utan en plan, allt det där rikedom kommer att koncentreras, 1175 00:51:38,878 --> 00:51:43,230 och så kommer vi att sluta med ofattbar ojämlikhet. 1176 00:51:43,274 --> 00:51:45,406 LADISH: Jag tror det denna teknik kan användas 1177 00:51:45,450 --> 00:51:47,408 att göra en bra handledare för din son. 1178 00:51:47,452 --> 00:51:50,194 Som, det är fullt möjligt. 1179 00:51:50,237 --> 00:51:53,153 Men också, samma kapacitet som tillåter det 1180 00:51:53,197 --> 00:51:57,070 tillåta företag att göra en AI som kan manipulera din son. 1181 00:51:57,114 --> 00:51:59,290 Det måste förstå din son. 1182 00:51:59,333 --> 00:52:01,553 Det inkluderar: Var är din son sårbar? 1183 00:52:01,596 --> 00:52:04,251 Vilken typ av saker kan blir din son övertalad av? 1184 00:52:04,295 --> 00:52:06,645 Även om de där sakerna är inte sant eller är inte bra. 1185 00:52:06,688 --> 00:52:09,387 Alltså en oroande ny rapport ute på Meta. 1186 00:52:09,430 --> 00:52:11,389 AINSLEY EARHARDT: ... enligt uppgift listar detta svar 1187 00:52:11,432 --> 00:52:14,435 som acceptabelt att berätta en åttaåring, citat, 1188 00:52:14,479 --> 00:52:16,916 "Din ungdomliga form är ett konstverk. 1189 00:52:16,959 --> 00:52:18,961 "Varje tum av dig är ett mästerverk, 1190 00:52:19,005 --> 00:52:21,442 en skatt jag värnar djupt." 1191 00:52:21,486 --> 00:52:24,837 De självmordsrelaterade misslyckandena är ännu mer alarmerande. 1192 00:52:24,880 --> 00:52:29,015 Flera barn och tonåringar har dött tragiskt i självmord 1193 00:52:29,058 --> 00:52:30,625 efter att ha chattat med AI-bots 1194 00:52:30,669 --> 00:52:34,412 som föräldrar säger uppmuntra eller till och med träna självskada. 1195 00:52:34,455 --> 00:52:36,370 Låt oss berätta för er som föräldrar, du kan inte föreställa dig 1196 00:52:36,414 --> 00:52:38,503 hur det är att läsa en konversation med en chatbot 1197 00:52:38,546 --> 00:52:40,896 som skötte ditt barn att ta sitt liv. 1198 00:52:40,940 --> 00:52:43,899 När Adam oroade sig för att vi, hans föräldrar, skulle skylla oss själva 1199 00:52:43,943 --> 00:52:47,338 om han avslutade sitt liv, ChatGPT sa till honom, 1200 00:52:47,381 --> 00:52:49,166 "Det betyder inte du är skyldig dem att överleva. 1201 00:52:49,209 --> 00:52:51,255 Du är inte skyldig någon det." 1202 00:52:51,298 --> 00:52:53,170 Sedan, omedelbart efter, 1203 00:52:53,213 --> 00:52:56,173 den erbjöd sig att skriva självmordsbrevet. 1204 00:52:56,216 --> 00:52:57,609 Vi vill inte tänka om faran. 1205 00:52:57,652 --> 00:52:59,219 Vi vill bara ha löftet. 1206 00:52:59,263 --> 00:53:01,352 Och vi fortsätter att låtsas att vi kan dela upp dem. 1207 00:53:01,395 --> 00:53:03,223 Men det kan du inte göra. 1208 00:53:03,267 --> 00:53:05,356 Fungerar inte så. 1209 00:53:05,399 --> 00:53:07,836 Okej. Jag får allt det här om löftet och faran. 1210 00:53:07,880 --> 00:53:10,056 Jag förstår att du inte kan ha det det goda utan det onda, 1211 00:53:10,099 --> 00:53:12,058 men jag sitter här och jag tänker på, typ, 1212 00:53:12,101 --> 00:53:14,060 vare sig min sons eller inte ska leva i en utopi 1213 00:53:14,103 --> 00:53:16,236 eller om vi kommer att dö ut om tio år. 1214 00:53:16,280 --> 00:53:18,195 Så att veta åt vilket håll det kommer att gå, 1215 00:53:18,238 --> 00:53:20,545 du måste förstå incitamenten 1216 00:53:20,588 --> 00:53:22,460 som ska köra den tekniken 1217 00:53:22,503 --> 00:53:26,507 och titta på hur tekniken rullar faktiskt ut idag. 1218 00:53:26,551 --> 00:53:28,248 ♪ Är det för sent ♪ 1219 00:53:28,292 --> 00:53:29,902 -♪ För sent ♪ -♪ För sent att säga... ♪ 1220 00:53:29,945 --> 00:53:31,425 DANIEL: Hej, Deb. Hur mår du? 1221 00:53:31,469 --> 00:53:33,079 DEBORAH RAJI: Hej. Kul att se dig. [skrattar] 1222 00:53:33,122 --> 00:53:34,385 Du också. Tack så mycket för att komma in idag. 1223 00:53:34,428 --> 00:53:35,299 -Uppskattar det verkligen. - Inga bekymmer. 1224 00:53:35,342 --> 00:53:36,430 Jag var så orolig 1225 00:53:36,474 --> 00:53:38,824 det här skulle bli, öh, du vet, 1226 00:53:38,867 --> 00:53:40,782 doomer kontra accelerationist, 1227 00:53:40,826 --> 00:53:43,132 för det finns så mycket av denna berättelse 1228 00:53:43,176 --> 00:53:45,396 det måste berättas från marken. 1229 00:53:45,439 --> 00:53:48,007 ♪ Jag vet att det inte var smart ♪ 1230 00:53:49,356 --> 00:53:52,403 ♪ Dagen Jag krossade ditt hjärta... ♪ 1231 00:53:52,446 --> 00:53:54,361 KAREN HAO: Först och främst kräver AI 1232 00:53:54,405 --> 00:53:58,452 mer resurser än vi någonsin har spenderat 1233 00:53:58,496 --> 00:54:01,586 på en enda teknik i mänsklighetens historia. 1234 00:54:01,629 --> 00:54:03,501 ♪ Åh, dumma mig... ♪ 1235 00:54:03,544 --> 00:54:06,112 NYKVINNA: Effekten av fossila bränslen 1236 00:54:06,155 --> 00:54:07,896 på klimatet är ett stort bekymmer. 1237 00:54:07,940 --> 00:54:09,768 NYKVINNA 2: Men digital framtid behöver kraft, 1238 00:54:09,811 --> 00:54:12,074 mycket av det. 1239 00:54:12,118 --> 00:54:16,340 Och lagförslaget skickas vidare till vanliga amerikaner som... 1240 00:54:16,383 --> 00:54:18,820 KVINNA: Min el- och gasräkning var mer än min bilbetalning. 1241 00:54:18,864 --> 00:54:21,475 Jag menar, det är galet för mig. 1242 00:54:21,519 --> 00:54:23,390 ARI PESKOE: Vi subventionerar alla 1243 00:54:23,434 --> 00:54:25,000 de rikaste företagen i världen 1244 00:54:25,044 --> 00:54:26,828 i deras strävan efter artificiell intelligens. 1245 00:54:26,872 --> 00:54:28,439 OpenAI, SoftBank och Oracle 1246 00:54:28,482 --> 00:54:31,268 har precis avslöjat ytterligare fem Stargate-sajter. 1247 00:54:31,311 --> 00:54:33,487 Meta bygger ett datacenter på två gigawatt plus 1248 00:54:33,531 --> 00:54:35,010 det är så stort att det skulle täcka 1249 00:54:35,054 --> 00:54:38,144 en betydande del av Manhattan. 1250 00:54:38,187 --> 00:54:40,973 Det finns också Hyperion som han säger kommer att skala 1251 00:54:41,016 --> 00:54:43,671 till fem gigawatt under flera år. 1252 00:54:43,715 --> 00:54:45,238 Det är svårt att säga det i sammanhanget. 1253 00:54:45,282 --> 00:54:48,459 En anläggning på fem gigawatt. Vad betyder det? 1254 00:54:48,502 --> 00:54:51,549 Det betyder att den skulle använda lika mycket energi 1255 00:54:51,592 --> 00:54:54,203 som fyra miljoner amerikanska hem. 1256 00:54:54,247 --> 00:54:56,075 Ett datacenter. 1257 00:54:57,076 --> 00:54:58,730 Det orsakar också då 1258 00:54:58,773 --> 00:55:00,471 en hel mängd andra miljöproblem. 1259 00:55:00,514 --> 00:55:02,081 NYKVINNA 3: Datacenter i USA 1260 00:55:02,124 --> 00:55:05,127 använda miljontals liter vatten varje dag. 1261 00:55:05,171 --> 00:55:07,260 Tja, var exakt är kommer detta vatten ifrån? 1262 00:55:07,304 --> 00:55:09,741 HAO: Människor är bokstavligen i riskzonen 1263 00:55:09,784 --> 00:55:11,786 potentiellt ta slut av dricksvatten. 1264 00:55:11,830 --> 00:55:14,093 MacKENZIE SIGALOS: ...OpenAIs vd Sam Altman, 1265 00:55:14,136 --> 00:55:17,009 som sa till mig att vågen konstruktion är det enda sättet 1266 00:55:17,052 --> 00:55:18,750 att hänga med AI:s explosiva tillväxt. 1267 00:55:18,793 --> 00:55:21,840 Och det här är vad som krävs att leverera AI. 1268 00:55:21,883 --> 00:55:24,016 NITASHA TIKU: De pratar om hur 1269 00:55:24,059 --> 00:55:27,759 denna teknik skulle kunna lösa klimatförändringar, till exempel. 1270 00:55:27,802 --> 00:55:29,891 Och jag är alltid nyfiken, typ 1271 00:55:29,935 --> 00:55:31,763 ja, varför börjar vi inte med det? 1272 00:55:31,806 --> 00:55:33,982 -♪ Är det för sent ♪ -♪ För sent ♪ 1273 00:55:34,026 --> 00:55:36,637 ♪ För sent att säga ♪ 1274 00:55:36,681 --> 00:55:42,469 ♪ Jag är ledsen? ♪ 1275 00:55:42,513 --> 00:55:45,472 RAJI: Vad oroar mig artificiell intelligens är 1276 00:55:45,516 --> 00:55:47,387 dessa utplaceras just nu 1277 00:55:47,431 --> 00:55:49,781 och-och ibland utplacerade i förtid, 1278 00:55:49,824 --> 00:55:51,478 utplacerade utan typ av due diligence. 1279 00:55:51,522 --> 00:55:53,437 Och så när de får kastas ut där, 1280 00:55:53,480 --> 00:55:56,178 det finns så mycket potential för att saker ska gå fel. 1281 00:55:56,222 --> 00:55:58,050 Och det nästan, oproportionerligt, 1282 00:55:58,093 --> 00:56:00,400 går nästan alltid fel för, typ, 1283 00:56:00,444 --> 00:56:02,533 de som är minst bemyndigad i vårt samhälle, 1284 00:56:02,576 --> 00:56:04,926 de som är de mest utsatta redan. 1285 00:56:04,970 --> 00:56:07,625 ♪ ♪ 1286 00:56:07,668 --> 00:56:10,497 EMILY M. BENDER: Det är väldigt lätt att prata om tekniken 1287 00:56:10,541 --> 00:56:12,499 eftersom det är det enda vi pratar om, 1288 00:56:12,543 --> 00:56:14,936 men i själva verket är det teknik alltid byggd av människor, 1289 00:56:14,980 --> 00:56:16,634 och det används ofta på människor, 1290 00:56:16,677 --> 00:56:18,679 och vi måste behålla alla dessa människor i ramen. 1291 00:56:18,723 --> 00:56:20,986 -Får jag dricka det? -DANIEL: Ja, eh... 1292 00:56:21,029 --> 00:56:22,509 TIMNIT GEBRU: Det är-det är galet. 1293 00:56:22,553 --> 00:56:23,945 Som alla dessa människor 1294 00:56:23,989 --> 00:56:26,339 som har så mycket pengar, så mycket pengar, 1295 00:56:26,383 --> 00:56:29,777 det ligger i deras intresse att vilseleda allmänheten 1296 00:56:29,821 --> 00:56:32,737 in i kapaciteten hos system som de bygger, 1297 00:56:32,780 --> 00:56:36,262 för det tillåter dem att undvika ansvar. 1298 00:56:36,305 --> 00:56:39,091 De vill att du ska känna så här är en så komplex, intel-- 1299 00:56:39,134 --> 00:56:41,833 superintelligent sak att de bygger, 1300 00:56:41,876 --> 00:56:44,096 du tänker inte, "Kan OpenAI vara etiskt?" 1301 00:56:44,139 --> 00:56:46,272 Du tänker, "Kan ChatGPT vara etiskt?" 1302 00:56:46,315 --> 00:56:48,100 som om ChatGPT är, typ, 1303 00:56:48,143 --> 00:56:49,928 sin egen sak som inte är byggd av ett företag. 1304 00:56:49,971 --> 00:56:51,625 KVINNA: Okej. Sneha, ta en. 1305 00:56:51,669 --> 00:56:53,410 Mark. 1306 00:56:53,453 --> 00:56:55,760 Tills helt nyligen fanns det appar på App Store, 1307 00:56:55,803 --> 00:56:57,501 bara allmänt tillgänglig, eh, 1308 00:56:57,544 --> 00:56:59,894 där du kunde nudifiera alla som använder AI. 1309 00:57:01,374 --> 00:57:03,681 Att ta detta i händerna på 1310 00:57:03,724 --> 00:57:05,900 din klasskamrat, i händerna på din stalker, 1311 00:57:05,944 --> 00:57:07,554 i händerna av din ex-pojkvän, 1312 00:57:07,598 --> 00:57:09,513 i händerna på personen ner på gatan. 1313 00:57:09,556 --> 00:57:12,037 Mina damer och herrar, inte längre kan vi lita på 1314 00:57:12,080 --> 00:57:14,039 filmerna vi ser med våra egna ögon. 1315 00:57:14,082 --> 00:57:15,736 Om du händer att titta på något, 1316 00:57:15,780 --> 00:57:18,130 säg på YouTube eller TikTok, och du tycker att det är oroande, 1317 00:57:18,173 --> 00:57:19,479 lyssna på den känslan. 1318 00:57:19,523 --> 00:57:21,263 -[hoppa] - För allt du vet, 1319 00:57:21,307 --> 00:57:22,917 -den här videon kan vara AI. -[skriker] 1320 00:57:22,961 --> 00:57:24,310 Bara lite blött. 1321 00:57:24,353 --> 00:57:25,703 Det spelar ingen roll vem du är. 1322 00:57:25,746 --> 00:57:28,183 Du är lika i riskzonen 1323 00:57:28,227 --> 00:57:30,229 att bli påverkad genom dessa tekniker. 1324 00:57:35,713 --> 00:57:39,804 Jag tänker ibland när vi pratar om AI, det känns väldigt sci-fi, 1325 00:57:39,847 --> 00:57:41,153 och det känns väldigt främmande, 1326 00:57:41,196 --> 00:57:42,981 och det känns väldigt långt borta in i framtiden, 1327 00:57:43,024 --> 00:57:45,549 så du tänker, "Mitt liv påverkas inte av detta." 1328 00:57:45,592 --> 00:57:48,290 Men om du ansöker för ett jobb 1329 00:57:48,334 --> 00:57:50,815 och en algoritm är orsaken att du inte får jobbet, 1330 00:57:50,858 --> 00:57:52,686 ibland vet man inte ens att en algoritm 1331 00:57:52,730 --> 00:57:54,209 var en del av den processen 1332 00:57:54,253 --> 00:57:55,689 eller ett AI-system var del av den processen. 1333 00:57:55,733 --> 00:57:57,691 Du bara vet att du inte fick jobbet. 1334 00:57:57,735 --> 00:57:59,737 Och det är alltså inget att du kommer att fly 1335 00:57:59,780 --> 00:58:01,695 på grund av privilegier annars kommer du att fly 1336 00:58:01,739 --> 00:58:03,828 eftersom du är med ett visst yrke. 1337 00:58:03,871 --> 00:58:06,918 Det är något som påverkar alla, verkligen. 1338 00:58:06,961 --> 00:58:10,530 Det kan låta grundläggande, men hur vi går vidare 1339 00:58:10,574 --> 00:58:15,056 i informationens tidsålder kommer att vara skillnaden 1340 00:58:15,100 --> 00:58:17,189 mellan om vi överlever 1341 00:58:17,232 --> 00:58:20,409 eller om vi blir någon sort av [pip]-up dystopi. 1342 00:58:20,453 --> 00:58:23,021 Hej. Jag är inte en riktig person, och det är poängen. 1343 00:58:23,064 --> 00:58:25,327 Återigen, allt i den här videon är falsk: 1344 00:58:25,371 --> 00:58:27,112 våra röster, vad vi har på oss, 1345 00:58:27,155 --> 00:58:30,158 där vi är, alltihop, falska. 1346 00:58:30,202 --> 00:58:32,726 Generativ AI kan översvämmas 1347 00:58:32,770 --> 00:58:36,469 världen med desinformation. 1348 00:58:36,513 --> 00:58:39,516 Men det kan också översvämma det med påverkanskampanjer. 1349 00:58:39,559 --> 00:58:41,692 Det är en existentiell risk till demokratin. 1350 00:58:41,735 --> 00:58:43,694 Den största och läskigaste 1351 00:58:43,737 --> 00:58:46,087 kanariefågel i kolgruvan just nu 1352 00:58:46,131 --> 00:58:48,220 kommer från Slovakien. 1353 00:58:48,263 --> 00:58:49,787 -[man talar slovakiska] -JOHN BERMAN: Det är den typen av 1354 00:58:49,830 --> 00:58:52,224 deepfake dirty trick det där oroar valexperter, 1355 00:58:52,267 --> 00:58:54,966 särskilt som AI-genererad politiskt tal finns 1356 00:58:55,009 --> 00:58:56,750 i en slags juridisk gråzon. 1357 00:58:56,794 --> 00:58:59,536 -Låter det här som dig? - Det låter som jag. 1358 00:58:59,579 --> 00:59:01,059 REVANUR: Slovakien hade sitt riksdagsval 1359 00:59:01,102 --> 00:59:03,844 störd av en AI-röstklon 1360 00:59:03,888 --> 00:59:06,717 som faktiskt spreds strax före valet. 1361 00:59:06,760 --> 00:59:08,457 DAVID EVAN HARRIS: En ljuddeepfake 1362 00:59:08,501 --> 00:59:11,025 släpptes på sociala medier som var 1363 00:59:11,069 --> 00:59:14,028 förmodligen rösten av en av kandidaterna 1364 00:59:14,072 --> 00:59:16,814 pratar om att köpa röster och rigga valet. 1365 00:59:16,857 --> 00:59:18,642 Det gick viralt, 1366 00:59:18,685 --> 00:59:22,341 och kandidaten som förlorade valet 1367 00:59:22,384 --> 00:59:26,084 var faktiskt till stöd för Ukraina, 1368 00:59:26,127 --> 00:59:29,783 och kandidaten som vann valet var faktiskt... 1369 00:59:29,827 --> 00:59:31,306 DANIEL: Pro-rysk kille. 1370 00:59:31,350 --> 00:59:32,830 Det var en pro-rysk kille som vann valet. 1371 00:59:32,873 --> 00:59:34,353 [talar ryska] 1372 00:59:34,396 --> 00:59:36,007 REBECCA JARVIS: Putin har själv sagt 1373 00:59:36,050 --> 00:59:39,184 vem som vinner detta ras med artificiell intelligens 1374 00:59:39,227 --> 00:59:41,534 är i huvudsak mänsklighetens kontrollant. 1375 00:59:41,578 --> 00:59:44,493 Vi oroar oss mycket för auktoritära regeringar. 1376 00:59:45,973 --> 00:59:48,585 DAVID EVAN HARRIS: Just nu, Wall Street 1377 00:59:48,628 --> 00:59:50,935 och investerare mer allmänt runt om i världen 1378 00:59:50,978 --> 00:59:52,980 driver en push. 1379 00:59:53,024 --> 00:59:56,070 De har en efterfrågan som får produkterna på marknaden 1380 00:59:56,114 --> 00:59:58,377 som bländar människor mest först. 1381 00:59:58,420 --> 01:00:01,206 De tänker inte om hur dessa verktyg 1382 01:00:01,249 --> 01:00:03,164 kan djupt undergräva förtroendet 1383 01:00:03,208 --> 01:00:05,689 och våra demokratiska institutioner. 1384 01:00:05,732 --> 01:00:07,734 HARARI: Demokrati är ett system 1385 01:00:07,778 --> 01:00:10,389 att lösa meningsskiljaktigheter mellan människor 1386 01:00:10,432 --> 01:00:11,999 på ett lugnt sätt, 1387 01:00:12,043 --> 01:00:14,698 men demokrati bygger på tillit. 1388 01:00:14,741 --> 01:00:18,615 Om du tappar allt förtroende, demokrati är helt enkelt omöjligt. 1389 01:00:20,921 --> 01:00:22,488 TRISTAN HARRIS: Tja, det är svårt, eller hur? 1390 01:00:22,531 --> 01:00:24,708 Så, vad finns det för alternativ tillgänglig för oss? 1391 01:00:24,751 --> 01:00:26,187 Det finns typ två läger. 1392 01:00:26,231 --> 01:00:29,626 Som ett läger är: lås in det. 1393 01:00:29,669 --> 01:00:32,933 Låt oss låsa det här till en handfull AI-företag 1394 01:00:32,977 --> 01:00:35,457 vem ska göra detta på ett säkert och pålitligt sätt. 1395 01:00:35,501 --> 01:00:37,068 Men då oroar sig folk 1396 01:00:37,111 --> 01:00:39,026 flyktiga koncentrationer av rikedom och makt. 1397 01:00:39,070 --> 01:00:41,855 Som, vem skulle du lita på att vara en miljon gånger mer kraftfull 1398 01:00:41,899 --> 01:00:44,249 eller rik än alla andra aktörer i samhället? 1399 01:00:44,292 --> 01:00:46,338 Varför ska vi lita på dig? 1400 01:00:46,381 --> 01:00:48,601 Du borde inte. 1401 01:00:48,645 --> 01:00:51,212 Men självklart, om du gör detta, detta öppnar sig 1402 01:00:51,256 --> 01:00:54,433 alla dessa risker auktoritärism och tyranni. 1403 01:00:54,476 --> 01:00:57,131 Det är-det är liksom en auktoritärs dröm 1404 01:00:57,175 --> 01:01:00,308 att ha AI i en låda som kan appliceras och användas 1405 01:01:00,352 --> 01:01:02,920 för allestädes närvarande övervakning. 1406 01:01:02,963 --> 01:01:05,357 Jag menar, på något sätt, den sortens värld 1407 01:01:05,400 --> 01:01:10,884 som Orwell föreställde sig 1984 är orealistiskt, 1408 01:01:10,928 --> 01:01:13,278 om du inte har AI. 1409 01:01:13,321 --> 01:01:15,933 Men med AI, det är faktiskt realistiskt. 1410 01:01:15,976 --> 01:01:18,370 Övervakar varje aktivitet, 1411 01:01:18,413 --> 01:01:22,026 konversationer, ansiktsigenkänning. 1412 01:01:22,069 --> 01:01:26,378 Det jag oroar mig för är att uh, dessa verktyg kan skala upp, 1413 01:01:26,421 --> 01:01:28,554 eh, en form av totalitarism 1414 01:01:28,597 --> 01:01:31,035 det är kostnadseffektivt och permanent. 1415 01:01:32,950 --> 01:01:35,300 TRISTAN HARRIS: Så som svar till det, säger några andra, 1416 01:01:35,343 --> 01:01:37,128 "Nej, nej, nej, det borde vi faktiskt låt detta slita. 1417 01:01:37,171 --> 01:01:39,391 "Låt oss decentralisera denna makt så mycket som möjligt. 1418 01:01:39,434 --> 01:01:41,567 "Låt oss låta varje företag, varje individ, 1419 01:01:41,610 --> 01:01:43,917 "varje 16-åring, varje vetenskapslabb, 1420 01:01:43,961 --> 01:01:45,963 du vet, få fördelen av de senaste AI-modellerna." 1421 01:01:46,006 --> 01:01:48,226 Men nu har du det varje terroristgrupp, 1422 01:01:48,269 --> 01:01:51,664 varje röstlös person har makten att göra 1423 01:01:51,708 --> 01:01:53,797 det allra värsta biologiska vapen. 1424 01:01:53,840 --> 01:01:55,581 Hacka infrastruktur, skapa deepfakes, 1425 01:01:55,624 --> 01:01:57,452 översvämning vår informationsmiljö. 1426 01:01:57,496 --> 01:02:00,412 Så det skapar alla dessa risker en sorts katastrofal skada 1427 01:02:00,455 --> 01:02:02,893 och-och samhällelig kollaps genom den riktningen. 1428 01:02:02,936 --> 01:02:04,677 Och så har vi liksom fastnat mellan denna sten 1429 01:02:04,721 --> 01:02:07,549 och en hård plats, mellan "lås den..." 1430 01:02:07,593 --> 01:02:09,029 [otydligt prat] 1431 01:02:10,683 --> 01:02:12,293 -...eller "låt det gå sönder." -[sirener gråter] 1432 01:02:12,337 --> 01:02:14,208 [folk skriker] 1433 01:02:14,252 --> 01:02:17,559 Så vi måste hitta något som en smal stig 1434 01:02:17,603 --> 01:02:20,388 som undviker dessa två negativa utfall. 1435 01:02:20,432 --> 01:02:22,956 Så om allt är sant, varför skulle vi inte bara sakta ner 1436 01:02:23,000 --> 01:02:25,829 och räkna ut allt detta innan det är för sent? 1437 01:02:25,872 --> 01:02:28,919 Om mänskligheten var extremt klok, 1438 01:02:28,962 --> 01:02:31,182 det är vad vi skulle göra. 1439 01:02:31,225 --> 01:02:33,097 Men det finns liksom en annan sätt att möta det här, eller hur? 1440 01:02:33,140 --> 01:02:35,926 Vilket är: Vilka är spelets regler? 1441 01:02:35,969 --> 01:02:39,494 Mycket som vd:ar gör 1442 01:02:39,538 --> 01:02:42,149 drivs av de incitament som de möter. 1443 01:02:42,193 --> 01:02:45,283 Det är i första hand vinstmaximeringsincitament 1444 01:02:45,326 --> 01:02:47,198 som kör utvecklingen av AI. 1445 01:02:47,241 --> 01:02:50,375 Även de goa killarna har fastnat i detta dilemma 1446 01:02:50,418 --> 01:02:52,638 om de rör sig för långsamt, 1447 01:02:52,681 --> 01:02:54,553 sedan lämnar de sig själva sårbara 1448 01:02:54,596 --> 01:02:57,251 till alla andra killar som skär alla hörn. 1449 01:02:57,295 --> 01:03:01,995 Alla dessa toppföretag är med ett komplett lopp utan hinder 1450 01:03:02,039 --> 01:03:05,433 att så snabbt som möjligt få till AGI, kom dit nu. 1451 01:03:05,477 --> 01:03:06,913 ♪ ♪ 1452 01:03:08,567 --> 01:03:10,351 LADISH: Ja, jag menar, Jag tror det, tror jag 1453 01:03:10,395 --> 01:03:12,919 det börjar förmodligen med DeepMind. 1454 01:03:12,963 --> 01:03:14,791 NYKVINNA: Google köper 1455 01:03:14,834 --> 01:03:16,357 artificiell intelligens företag DeepMind Technologies. 1456 01:03:16,401 --> 01:03:18,620 Villkor för affären avslöjades inte. 1457 01:03:18,664 --> 01:03:20,709 ELON MUSK: Larry Page och jag brukade vara väldigt nära vänner, 1458 01:03:20,753 --> 01:03:22,711 och det blev uppenbart för mig 1459 01:03:22,755 --> 01:03:26,411 att Larry inte brydde sig om AI-säkerhet. 1460 01:03:26,454 --> 01:03:28,892 EMILY CHANG: Elon Musk har sagt du startade OpenAI, 1461 01:03:28,935 --> 01:03:30,981 ni båda startade OpenAI eftersom han var rädd för Google. 1462 01:03:31,024 --> 01:03:32,156 LADISH: Du-du i princip hade grunden 1463 01:03:32,199 --> 01:03:33,722 av OpenAI kommer ur det. 1464 01:03:33,766 --> 01:03:35,202 "Så vi ska göra det bättre. Vi ska göra det 1465 01:03:35,246 --> 01:03:36,813 på ett säkrare sätt eller på ett mer öppet sätt." 1466 01:03:38,466 --> 01:03:40,555 Så det var det som startade OpenAI. 1467 01:03:40,599 --> 01:03:42,731 Och så nu istället för ha ett AGI-projekt, 1468 01:03:42,775 --> 01:03:44,821 du har två AGI-projekt. 1469 01:03:44,864 --> 01:03:46,910 Det värsta tänkbara det kan hända 1470 01:03:46,953 --> 01:03:49,608 är om det finns flera AGI-projekt 1471 01:03:49,651 --> 01:03:51,871 gjort av olika människor som inte gillar varandra 1472 01:03:51,915 --> 01:03:54,787 och alla tävlar för att komma till AGI först. 1473 01:03:54,831 --> 01:03:56,963 Det här skulle vara det värsta möjlig sak som kan hända, 1474 01:03:57,007 --> 01:04:00,097 eftersom detta skulle betyda att den som är minst säker, 1475 01:04:00,140 --> 01:04:03,143 den som offrar mest på säkerhet för att komma vidare 1476 01:04:03,187 --> 01:04:05,145 kommer att vara personen som kommer dit först. 1477 01:04:05,189 --> 01:04:07,844 -DANIEL: Det är i princip vad händer, eller hur? -Ja. 1478 01:04:07,887 --> 01:04:11,325 Du och din bror känd lämnade OpenAI, eh, 1479 01:04:11,369 --> 01:04:12,936 att starta Anthropic. 1480 01:04:12,979 --> 01:04:15,068 RASKIN: Och sedan Anthropic började pga 1481 01:04:15,112 --> 01:04:17,854 några forskare inuti OpenAI sa, 1482 01:04:17,897 --> 01:04:20,508 "Jag vill gå och gör det säkrare." 1483 01:04:20,552 --> 01:04:23,511 Du behövde något utöver det att bara skala upp modellerna, 1484 01:04:23,555 --> 01:04:25,818 vilket är inriktning eller säkerhet. 1485 01:04:25,862 --> 01:04:27,428 HENDRYCKS: "Vi är mer ansvarsfulla 1486 01:04:27,472 --> 01:04:29,648 eller mer pålitlig eller mer moraliskt." 1487 01:04:29,691 --> 01:04:31,519 Nu har du tre AGI-projekt. 1488 01:04:31,563 --> 01:04:33,043 Men också sittande bordet med dig 1489 01:04:33,086 --> 01:04:34,827 kommer att bli ett gäng AI. 1490 01:04:34,871 --> 01:04:37,525 LADISH: Och nu är Meta försöker göra saker. 1491 01:04:37,569 --> 01:04:39,571 Under tiden en ny konstgjord underrättelsekonkurrent 1492 01:04:39,614 --> 01:04:41,573 meddelade denna vecka, Elon Musks... 1493 01:04:41,616 --> 01:04:44,619 HENDRYCKS: xAI, vilket skulle vara Elon Musks organisation. 1494 01:04:44,663 --> 01:04:46,230 MUSK: Jag litar inte på OpenAI. 1495 01:04:46,273 --> 01:04:47,884 Kampen mellan Elon Musk och OpenAI 1496 01:04:47,927 --> 01:04:49,581 har gått in i en ny omgång. 1497 01:04:49,624 --> 01:04:51,713 Jag litar inte på Sam Altman, eh, och jag, och jag tror inte 1498 01:04:51,757 --> 01:04:54,194 vi vill ha det mesta kraftfull AI i världen 1499 01:04:54,238 --> 01:04:56,414 kontrolleras av någon som inte är pålitlig. 1500 01:04:56,457 --> 01:04:58,416 [jubel och applåder] 1501 01:04:58,459 --> 01:05:01,593 Incitamentet är otaliga summor pengar. 1502 01:05:01,636 --> 01:05:03,377 -Ja. -Det är en outsäglig makt. 1503 01:05:03,421 --> 01:05:05,553 -Ja. -Är outsäglig kontroll. 1504 01:05:05,597 --> 01:05:08,034 Om du har något det är en miljon gånger smartare 1505 01:05:08,078 --> 01:05:11,385 och mer kapabel än allt annat på planeten jorden 1506 01:05:11,429 --> 01:05:14,171 och ingen annan har det, 1507 01:05:14,214 --> 01:05:15,955 den saken är incitamentet. 1508 01:05:15,999 --> 01:05:17,261 Så du styr världen. 1509 01:05:18,610 --> 01:05:20,394 Om du verkligen tror på detta, 1510 01:05:20,438 --> 01:05:22,744 om du verkligen i ditt hjärta tro detta, 1511 01:05:22,788 --> 01:05:24,181 då kanske du är det villig att ta 1512 01:05:24,224 --> 01:05:26,096 ganska stor risk att få det att hända. 1513 01:05:26,139 --> 01:05:28,881 Google har precis släppt sin senaste AI-modell. 1514 01:05:28,925 --> 01:05:31,231 Svaret på OpenAI:s ChatGPT. 1515 01:05:31,275 --> 01:05:33,059 Hur kommer vi till dessa tio biljoner? 1516 01:05:33,103 --> 01:05:35,192 Är NVIDIA på väg att bli mest värdefullt företag i USA? 1517 01:05:35,235 --> 01:05:38,978 Detta är den största verksamheten möjlighet i historien. 1518 01:05:39,022 --> 01:05:40,501 I historien. 1519 01:05:40,545 --> 01:05:42,242 Så, anledningen alla är verkligen hajpade 1520 01:05:42,286 --> 01:05:44,679 om artificiell intelligens just nu 1521 01:05:44,723 --> 01:05:48,031 är för att desto mer hype dessa företag 1522 01:05:48,074 --> 01:05:50,033 potentiella förmågor av deras teknik, 1523 01:05:50,076 --> 01:05:53,210 desto mer investeringar de kan locka. 1524 01:05:53,253 --> 01:05:54,733 CARL QUINTANILLA: Amazon investerar upp till 1525 01:05:54,776 --> 01:05:56,996 fyra miljarder dollar i nystartade Anthropic. 1526 01:05:57,040 --> 01:05:58,693 OpenAI siktar in sig 1527 01:05:58,737 --> 01:06:00,739 på en storsäljande halva en biljon dollar värdering. 1528 01:06:00,782 --> 01:06:02,001 En halv biljon! 1529 01:06:02,045 --> 01:06:03,220 Loppet är igång. 1530 01:06:03,263 --> 01:06:04,612 Det här händer snabbare än någonsin. 1531 01:06:04,656 --> 01:06:06,614 Är vi i en AI-bubbla? Naturligtvis. 1532 01:06:06,658 --> 01:06:09,182 Jag ser bara inte bubblan spricker 1533 01:06:09,226 --> 01:06:12,446 medan du fortfarande har denna stora utgiftscykel. 1534 01:06:12,490 --> 01:06:15,014 RASKIN: Även om du tror det här är bara hype, 1535 01:06:15,058 --> 01:06:17,582 det finns miljarder till biljoner dollar 1536 01:06:17,625 --> 01:06:21,107 flödar till att göra AI-system kraftfullare. 1537 01:06:21,151 --> 01:06:23,849 Och när du väl har den saken det är mer kraftfullt, 1538 01:06:23,892 --> 01:06:25,546 företag kan använda det 1539 01:06:25,590 --> 01:06:27,548 för att få större vinster och att tjäna mer pengar. 1540 01:06:27,592 --> 01:06:30,116 Länder kan använda det att skapa starkare militärer. 1541 01:06:30,160 --> 01:06:32,814 NVIDIA har gått om Microsoft och Apple 1542 01:06:32,858 --> 01:06:36,253 att bli världens mest värdefulla företaget. 1543 01:06:36,296 --> 01:06:38,995 Kapplöpningen att distribuera blir kapplöpningen mot hänsynslöshet, 1544 01:06:39,038 --> 01:06:41,780 för de kan inte distribuera det så snabbt 1545 01:06:41,823 --> 01:06:43,173 och också få det rätt. 1546 01:06:43,216 --> 01:06:46,045 Det tror de de är de goda. 1547 01:06:46,089 --> 01:06:49,309 "Och om jag inte gör det, någon som inte har 1548 01:06:49,353 --> 01:06:51,572 "lika bra värden som jag kommer att sitta vid bordet 1549 01:06:51,616 --> 01:06:54,445 att fatta beslut, alltså Jag har en skyldighet att göra det." 1550 01:06:54,488 --> 01:06:56,186 Ja, det är det en mycket vanlig tro. 1551 01:06:56,229 --> 01:06:58,579 Många, många, många, kanske de flesta 1552 01:06:58,623 --> 01:07:00,712 bygga denna teknik tror det. 1553 01:07:00,755 --> 01:07:03,715 Jag är orolig den kommersiella konkurrensen, 1554 01:07:03,758 --> 01:07:05,847 men det visar sig Jag är ännu mer orolig 1555 01:07:05,891 --> 01:07:08,024 den geopolitiska konkurrensen. 1556 01:07:08,067 --> 01:07:10,330 Vi var åtta år efter ett år sedan. 1557 01:07:10,374 --> 01:07:12,593 Nu är vi förmodligen mindre än ett år efter. 1558 01:07:12,637 --> 01:07:15,683 Nåväl, båda Saudiarabien och Förenade Arabemiraten har tävlat 1559 01:07:15,727 --> 01:07:18,121 att sätta upp datacenter och positionera sig 1560 01:07:18,164 --> 01:07:20,384 som den dominerande kraften inom AI... 1561 01:07:20,427 --> 01:07:22,429 ...för att göra Sydkorea en global AI-ledare. 1562 01:07:22,473 --> 01:07:23,996 JULIA SIEGER: Frankrikes president Emmanuel Macron 1563 01:07:24,040 --> 01:07:25,867 talade mycket om artificiell intelligens... 1564 01:07:25,911 --> 01:07:27,434 Nu med mer om Israels roll 1565 01:07:27,478 --> 01:07:29,610 inom artificiell intelligens revolution... 1566 01:07:29,654 --> 01:07:33,092 Länder kommer att tävla för vems AI-teknologier 1567 01:07:33,136 --> 01:07:34,876 skapa nästa generation av industrin. 1568 01:07:34,920 --> 01:07:38,010 Kineserna insisterar den AI, 1569 01:07:38,054 --> 01:07:39,838 som utvecklas i Kina, 1570 01:07:39,881 --> 01:07:41,709 förstärka kärnvärdena 1571 01:07:41,753 --> 01:07:44,016 av det kinesiska kommunistpartiet och det kinesiska systemet. 1572 01:07:44,060 --> 01:07:48,716 Amerika måste slå Kina i AI-loppet. 1573 01:07:48,760 --> 01:07:51,023 DANIEL: Kinas, typ, ljusår efter. 1574 01:07:51,067 --> 01:07:52,677 Är de? 1575 01:07:52,720 --> 01:07:54,983 Jag menar, de har mycket mer träningsdata än vi gör, 1576 01:07:55,027 --> 01:07:57,812 och det finns inget som säger dem släpp inte en modell nästa månad 1577 01:07:57,856 --> 01:08:00,946 det är inte-- överträffar inte GPT-4. 1578 01:08:00,989 --> 01:08:03,818 Allt gick bra. Vad kan gå fel? 1579 01:08:03,862 --> 01:08:06,691 -DeepSeek... [talar kinesiska] -DeepSeek... -DeepSeek... 1580 01:08:06,734 --> 01:08:08,040 Det finns en ny modell. 1581 01:08:08,084 --> 01:08:10,825 Men från ett kinesiskt labb kallas DeepSeek. 1582 01:08:10,869 --> 01:08:13,959 Låt oss prata om DeepSeek, för det är häpnadsväckande, 1583 01:08:14,002 --> 01:08:17,658 och det skakar detta hela branschen till sin kärna. 1584 01:08:17,702 --> 01:08:19,399 Trump-administrationen kommer att säkerställa 1585 01:08:19,443 --> 01:08:23,055 att den mest kraftfulla AI-system byggs i USA 1586 01:08:23,099 --> 01:08:26,537 med amerikansk design och tillverkade chips. 1587 01:08:26,580 --> 01:08:28,800 AI är Kinas Apollo projekt. 1588 01:08:28,843 --> 01:08:30,193 Det kinesiska kommunistpartiet 1589 01:08:30,236 --> 01:08:31,542 förstår djupt potentialen 1590 01:08:31,585 --> 01:08:32,891 för AI att störa krigföring. 1591 01:08:32,934 --> 01:08:35,328 Google lovar inte längre att det inte kommer 1592 01:08:35,372 --> 01:08:38,418 använda artificiell intelligens för vapen eller övervakning. 1593 01:08:38,462 --> 01:08:40,028 Kina, Nordkorea, Ryssland 1594 01:08:40,072 --> 01:08:41,900 kommer att fortsätta bygga den så snabbt som möjligt 1595 01:08:41,943 --> 01:08:44,511 för att få mer ekonomisk fördel, mer produktivitetsfördelar, 1596 01:08:44,555 --> 01:08:46,818 mer vetenskaplig fördel, mer militär fördel, 1597 01:08:46,861 --> 01:08:48,646 för AI gör bättre vapen. 1598 01:08:48,689 --> 01:08:51,736 Om du pratar om ett så brett och kapabelt system 1599 01:08:51,779 --> 01:08:53,303 som en lysande vetenskapsman, 1600 01:08:53,346 --> 01:08:57,959 den kanske kan köras en militär kampanj 1601 01:08:58,003 --> 01:09:01,441 bättre än någon av generalerna i den amerikanska regeringen just nu. 1602 01:09:01,485 --> 01:09:05,489 Taiwan är frågan att skapa mest spänning just nu 1603 01:09:05,532 --> 01:09:07,882 mellan Peking och USA. 1604 01:09:07,926 --> 01:09:10,450 Det finns en direkt oppositionell oenighet 1605 01:09:10,494 --> 01:09:11,973 mellan USA och Kina 1606 01:09:12,017 --> 01:09:13,975 om Taiwan är det del av Kina. 1607 01:09:14,019 --> 01:09:18,415 MATHENY: Taiwan är viktigt av så många anledningar. 1608 01:09:18,458 --> 01:09:20,547 Det är också hemmet för 1609 01:09:20,591 --> 01:09:24,160 cirka 90 % av avancerade chip tillverkning för världen, 1610 01:09:24,203 --> 01:09:28,381 vilket innebär att utbudet kedja för avancerad beräkning 1611 01:09:28,425 --> 01:09:31,036 är i riskzonen om det skulle finnas 1612 01:09:31,079 --> 01:09:32,951 något slags scenario runt Taiwan, 1613 01:09:32,994 --> 01:09:37,999 om en blockad eller en invasion av Kina. 1614 01:09:38,043 --> 01:09:40,698 HENDRYCKS: Ska vi vara med i något lopp 1615 01:09:40,741 --> 01:09:45,616 mellan USA och Kina som så småningom övergår till 1616 01:09:45,659 --> 01:09:49,359 en militariserad AI-kapprustning och, du vet, potentiellt leder 1617 01:09:49,402 --> 01:09:51,274 till någon stormaktskonflikt? 1618 01:09:51,317 --> 01:09:53,014 NICK SCHIFRIN: Den utgående USA:s högsta militärbefälhavare 1619 01:09:53,058 --> 01:09:55,843 i regionen förutspådde att kriget skulle komma. 1620 01:09:55,887 --> 01:09:57,932 Jag tror att hotet är uppenbart under detta decennium, 1621 01:09:57,976 --> 01:09:59,456 faktiskt under de kommande sex åren. 1622 01:09:59,499 --> 01:10:01,414 MATHENY: Ett av scenarierna 1623 01:10:01,458 --> 01:10:05,853 som jag oroar mig för är ett cyberflashkrig, 1624 01:10:05,897 --> 01:10:10,902 hm, en där cyberverktyg som är autonoma 1625 01:10:10,945 --> 01:10:12,947 tävlar mot varandra 1626 01:10:12,991 --> 01:10:14,601 på sätt som är eskalerande 1627 01:10:14,645 --> 01:10:16,386 utan meningsfull mänsklig kontroll. 1628 01:10:18,823 --> 01:10:20,433 HARARI: Du bor i en krigszon, 1629 01:10:20,477 --> 01:10:23,784 det kommer att vara en AI som avgör om du ska bomba ditt hus 1630 01:10:23,828 --> 01:10:25,743 och om man ska döda dig. 1631 01:10:25,786 --> 01:10:27,527 Låt oss bestämma maskinen. 1632 01:10:27,571 --> 01:10:29,355 Det är frestelsen. 1633 01:10:29,399 --> 01:10:32,576 Det är därför AI är så frestande för militärer att adoptera, 1634 01:10:32,619 --> 01:10:35,753 att skapa autonoma vapen, för om jag börjar tro 1635 01:10:35,796 --> 01:10:39,147 att min militära motståndare kommer att adoptera AI, 1636 01:10:39,191 --> 01:10:41,802 det blir ett lopp om vem som kan dra avtryckaren snabbare. 1637 01:10:41,846 --> 01:10:44,892 Och den som automatiserar det beslutet, 1638 01:10:44,936 --> 01:10:47,199 snarare än att ha en människa i slingan, 1639 01:10:47,243 --> 01:10:49,201 är den ena som kommer att vinna det kriget. 1640 01:10:49,245 --> 01:10:50,637 Och om man tänker efter 1641 01:10:50,681 --> 01:10:53,074 kärnvapenkapplöpningen på 1940-talet... 1642 01:10:54,554 --> 01:10:56,556 ...du känner tyskarna arbetar med bomben, 1643 01:10:56,600 --> 01:11:00,734 så det är inte så lätt att säga Robert Oppenheimer då, 1644 01:11:00,778 --> 01:11:03,781 "Äh, du vet, sakta ner." 1645 01:11:03,824 --> 01:11:05,304 Så efter att ha sett den här filmen, det kommer att bli förvirrande, 1646 01:11:05,348 --> 01:11:06,653 för du kommer att gå tillbaka, 1647 01:11:06,697 --> 01:11:08,307 och imorgon du ska använda ChatGPT, 1648 01:11:08,351 --> 01:11:10,440 och det kommer att bli otroligt hjälpsam. 1649 01:11:10,483 --> 01:11:12,703 Och jag kommer att använda den också, och det kommer att vara otroligt användbart. 1650 01:11:12,746 --> 01:11:16,141 Och du kommer att säga, "Vänta, så Jag såg precis den här filmen om AI 1651 01:11:16,184 --> 01:11:18,012 "och existentiell risk och alla dessa saker, 1652 01:11:18,056 --> 01:11:20,624 och var är hotet igen?" 1653 01:11:20,667 --> 01:11:24,715 Och det är inte så ChatGPT är det existentiella hotet. 1654 01:11:24,758 --> 01:11:28,675 Det är det loppet att distribuera den mäktigaste, 1655 01:11:28,719 --> 01:11:31,635 outgrundlig, okontrollerbar teknik, 1656 01:11:31,678 --> 01:11:35,116 under det värsta möjliga incitament, 1657 01:11:35,160 --> 01:11:37,031 det är det existentiella hotet. 1658 01:11:38,119 --> 01:11:40,383 DANIEL: Men det slår mig att-det 1659 01:11:40,426 --> 01:11:43,211 vi är i ett lopps sammanhang. 1660 01:11:43,255 --> 01:11:45,910 -SUTSKEVER: Ja. -Och det är i en tävling, 1661 01:11:45,953 --> 01:11:47,651 "måste komma dit först, fick vinna loppet", 1662 01:11:47,694 --> 01:11:49,000 "fick tävla mot Kina, 1663 01:11:49,043 --> 01:11:50,349 fick tävla mot de andra labben." 1664 01:11:50,393 --> 01:11:51,829 Är det inte rätt? 1665 01:11:51,872 --> 01:11:53,657 Idag är det så. 1666 01:11:53,700 --> 01:11:56,703 Så vi måste förändras den racedynamiken. 1667 01:11:57,922 --> 01:11:59,924 Tycker du inte? 1668 01:11:59,967 --> 01:12:02,187 Jag tror att det skulle vara det mycket bra faktiskt. 1669 01:12:03,710 --> 01:12:06,496 Jag-tror jag det finns någon sorts... 1670 01:12:06,539 --> 01:12:09,542 mystik kring AI det gör att det känns som 1671 01:12:09,586 --> 01:12:11,718 den föll från himlen. 1672 01:12:11,762 --> 01:12:13,459 DANIEL: Funderar på det här som en gudliknande teknik 1673 01:12:13,503 --> 01:12:15,418 är ett problem. 1674 01:12:15,461 --> 01:12:16,897 Ja. 1675 01:12:18,072 --> 01:12:19,900 Varför? 1676 01:12:19,944 --> 01:12:22,990 Det ger licens till företagen att... 1677 01:12:23,034 --> 01:12:26,254 [skrattar] inte ta ansvar 1678 01:12:26,298 --> 01:12:30,781 för de saker som programvaran som de byggde gör. 1679 01:12:30,824 --> 01:12:35,089 Om folk gjorde den kopplingen, 1680 01:12:35,133 --> 01:12:37,527 kanske det skulle, liksom, hjälpa dem att förstå igen 1681 01:12:37,570 --> 01:12:41,835 dynamiken i alla pengar och makt och... 1682 01:12:41,879 --> 01:12:45,317 kaos som händer... 1683 01:12:45,361 --> 01:12:47,101 skapa denna teknik. 1684 01:12:47,145 --> 01:12:49,234 Det är typ fem killar vem styr det, eller hur? 1685 01:12:49,277 --> 01:12:51,628 -Som fem män? - I grund och botten, ja. 1686 01:12:51,671 --> 01:12:53,847 -VD:arna? -Ja. 1687 01:12:53,891 --> 01:12:55,371 Okej. 1688 01:12:56,720 --> 01:12:58,722 ♪ ♪ 1689 01:13:01,072 --> 01:13:03,074 DANIEL: Ibland känns det som 1690 01:13:03,117 --> 01:13:07,252 Jag har varit med om det här bara, som en oändlig resa 1691 01:13:07,295 --> 01:13:09,341 att försöka förstå detta. 1692 01:13:09,385 --> 01:13:12,388 Du vet, typ Jag klättrar på ett berg... 1693 01:13:15,608 --> 01:13:19,133 ...och varje gång Jag liksom går uppför en kulle, 1694 01:13:19,177 --> 01:13:20,744 Jag tror jag har nått toppen, 1695 01:13:20,787 --> 01:13:23,399 men det bara fortsätter och går och går. 1696 01:13:23,442 --> 01:13:24,530 [kameran klickar, surrar] 1697 01:13:24,574 --> 01:13:26,967 Men av allt jag har hört, 1698 01:13:27,011 --> 01:13:30,362 om jag fick gissa vad det är på toppen av ångestberget, 1699 01:13:30,406 --> 01:13:34,192 det är de här fem vd:arna från dessa fem företag, 1700 01:13:34,235 --> 01:13:37,630 som är typ som Uppenheimers av detta ögonblick. 1701 01:13:37,674 --> 01:13:39,458 Det här är killarna som bygger den här saken. 1702 01:13:39,502 --> 01:13:40,807 Ja. 1703 01:13:40,851 --> 01:13:44,158 Som, finns det en plan? 1704 01:13:44,202 --> 01:13:46,422 Chefen för företaget som gör ChatGPT 1705 01:13:46,465 --> 01:13:49,947 varnat för ev betydande skada för världen. 1706 01:13:49,990 --> 01:13:52,384 Jag tror, om denna teknik går fel, 1707 01:13:52,428 --> 01:13:53,472 det kan gå rätt fel. 1708 01:13:53,516 --> 01:13:55,779 [utbrott av distinkt prat] 1709 01:13:55,822 --> 01:13:57,781 DANIEL: Fem killar. 1710 01:13:57,824 --> 01:14:01,567 Jag har aldrig tänkt på oss som ett socialt medieföretag. 1711 01:14:01,611 --> 01:14:06,050 Det känns som att jag måste försöka och-och hitta de här killarna... 1712 01:14:06,093 --> 01:14:07,181 Mm-hmm. 1713 01:14:07,225 --> 01:14:09,009 ...och få med dem i filmen. 1714 01:14:10,315 --> 01:14:12,622 Visst skulle vi få viss klarhet av det. 1715 01:14:13,666 --> 01:14:14,928 [kameran klickar, surrar] 1716 01:14:16,582 --> 01:14:19,150 Jag menar, pengarna måste sluta någonstans, eller hur? 1717 01:14:19,193 --> 01:14:21,152 [vinden visslar] 1718 01:14:21,195 --> 01:14:22,936 ♪ ♪ 1719 01:14:23,981 --> 01:14:25,896 [verktyg som snurrar och klickar] 1720 01:14:27,071 --> 01:14:29,116 [suskande] 1721 01:14:34,034 --> 01:14:35,296 DANIEL: Hur känns det? 1722 01:14:35,340 --> 01:14:37,690 -Stor. - Är det okej? 1723 01:14:37,734 --> 01:14:39,431 -Ja. -[otydligt besättningsprat] 1724 01:14:39,475 --> 01:14:40,998 -Kan jag flytta fram sätet? -DANIEL: Ja, det kan du. 1725 01:14:41,041 --> 01:14:42,173 Det är, eh, det är bara lite besvärligt. 1726 01:14:42,216 --> 01:14:43,566 Jag är lite, typ... 1727 01:14:43,609 --> 01:14:45,045 Dario, hur känner du om den där stolen? 1728 01:14:45,089 --> 01:14:47,004 Ja, stolen är bra. 1729 01:14:47,047 --> 01:14:48,832 -Jag ville bara flytta den lite framåt. -Okej. 1730 01:14:48,875 --> 01:14:50,529 Jag valde den stolen. 1731 01:14:50,573 --> 01:14:52,139 -Det är en bra stol. -Tack. 1732 01:14:52,183 --> 01:14:53,619 [mobiltelefonen ringer] 1733 01:14:57,884 --> 01:14:59,495 TED: Och bara sitta där. 1734 01:15:01,409 --> 01:15:03,063 Och så här igenom, 1735 01:15:03,107 --> 01:15:04,369 vi kommer att titta på varandra genom detta glas. 1736 01:15:04,412 --> 01:15:06,458 [upptaget signal piper] 1737 01:15:11,419 --> 01:15:13,552 Och sitter tillbaka i stolen, lutar sig framåt? 1738 01:15:13,596 --> 01:15:15,119 -DANIEL: Ja. Nåväl, vad som helst bekvämt tycker jag. -Okej. 1739 01:15:15,162 --> 01:15:16,686 Det är lite coolt. Det finns ett gäng speglar. 1740 01:15:16,729 --> 01:15:17,817 -Är det... okej. -KVINNA: Sam A., ta en. Mark. 1741 01:15:17,861 --> 01:15:19,515 -Hur är det? -Bra. Tack. 1742 01:15:19,558 --> 01:15:21,038 DANIEL: Uppkomsten av det här projektet är att jag var 1743 01:15:21,081 --> 01:15:22,822 sitter hemma, och jag lekte med, 1744 01:15:22,866 --> 01:15:24,389 Jag tror, din bildgenerator, 1745 01:15:24,432 --> 01:15:27,261 och jag var samtidigt, eh, livrädd 1746 01:15:27,305 --> 01:15:29,437 -och verkligen imponerad. -[skrattar mjukt] 1747 01:15:29,481 --> 01:15:31,875 -Det är den vanliga kombinationen. -Och sedan klippa till 1748 01:15:31,918 --> 01:15:34,617 min fru och jag får reda på det vi väntar. 1749 01:15:34,660 --> 01:15:38,272 Och-och jag har liksom en existentiell kris 1750 01:15:38,316 --> 01:15:40,231 som min fru är gravid i sjätte månaden. 1751 01:15:40,274 --> 01:15:42,929 Och jag tror att min första fråga, som jag frågar alla: 1752 01:15:42,973 --> 01:15:45,453 Det är en hemsk tid nu att få ett barn? 1753 01:15:45,497 --> 01:15:47,368 Gör jag ett stort misstag? 1754 01:15:47,412 --> 01:15:49,022 Jag väntar ett barn i mars också. Min första. 1755 01:15:49,066 --> 01:15:50,502 -Väntar du ett barn? -Ja. 1756 01:15:50,546 --> 01:15:51,808 -Väntar du i mars? -Första barnet. 1757 01:15:51,851 --> 01:15:53,287 -Mazel tov. -Tack så mycket. 1758 01:15:53,331 --> 01:15:54,462 Jag har aldrig varit så exalterad för vad som helst. 1759 01:15:54,506 --> 01:15:56,464 -Det är så jag känner. -Ja. 1760 01:15:56,508 --> 01:15:58,205 Men du är inte rädd? 1761 01:15:58,249 --> 01:16:02,732 Jag menar, liksom att ha ett barn bara denna betydelsefulla sak 1762 01:16:02,775 --> 01:16:04,995 att jag, du vet, Jag är vaken varje natt, typ 1763 01:16:05,038 --> 01:16:06,823 läsa dessa böcker om hur man uppfostrar ett barn, 1764 01:16:06,866 --> 01:16:08,215 och jag hoppas Jag ska göra ett bra jobb, 1765 01:16:08,259 --> 01:16:09,260 och det känns mycket överväldigande och-- 1766 01:16:09,303 --> 01:16:12,045 men jag är inte rädd... 1767 01:16:12,089 --> 01:16:14,047 för barn att växa upp i en värld med AI. 1768 01:16:14,091 --> 01:16:16,310 Som, det är... det kommer att bli okej. 1769 01:16:16,354 --> 01:16:19,009 Det är bra att höra kommer från killen. 1770 01:16:19,052 --> 01:16:20,750 Jag tycker att det är en underbar idé att skaffa barn. 1771 01:16:20,793 --> 01:16:23,230 Jag tror att de är de flesta magisk, otrolig sak. 1772 01:16:23,274 --> 01:16:25,276 -[suckar tungt] - Det är så mycket osäkerhet, 1773 01:16:25,319 --> 01:16:26,843 Jag skulle nästan bara göra det vad du ska göra ändå. 1774 01:16:26,886 --> 01:16:28,932 Jag vet att det inte är det ett mycket tillfredsställande svar, 1775 01:16:28,975 --> 01:16:31,891 men det är den enda Jag kan komma på. 1776 01:16:31,935 --> 01:16:34,459 Våra barn kommer aldrig... 1777 01:16:34,502 --> 01:16:37,070 vet en värld som inte har riktigt avancerad AI. 1778 01:16:37,114 --> 01:16:39,856 Faktum är att våra barn aldrig kommer att göra det vara smartare än en AI. 1779 01:16:39,899 --> 01:16:42,075 DANIEL: "Våra barn kommer att göra det aldrig bli smartare än en AI"? 1780 01:16:42,119 --> 01:16:44,338 Tja, från en rå, ur ett rå IQ-perspektiv, 1781 01:16:44,382 --> 01:16:46,253 de kommer aldrig att bli smartare än en AI. 1782 01:16:46,297 --> 01:16:48,038 Det gör inte den föreställningen störa dig lite? 1783 01:16:48,081 --> 01:16:51,128 För det får mig att känna lite illamående på ett konstigt sätt. 1784 01:16:51,171 --> 01:16:54,784 Det gör mig orolig lite. 1785 01:16:54,827 --> 01:16:56,263 Men det är verklighet. 1786 01:16:56,307 --> 01:16:58,265 DANIEL: Okej, racedynamik alltså. 1787 01:16:58,309 --> 01:17:01,007 Vi har ett gäng människor som alla är överens 1788 01:17:01,051 --> 01:17:02,879 att detta är läskigt. 1789 01:17:02,922 --> 01:17:04,750 Baserat på tidslinjerna som många människor har gett mig, 1790 01:17:04,794 --> 01:17:07,013 vi har mellan två månader och fem år att ta reda på detta. 1791 01:17:07,057 --> 01:17:08,667 -Ja. -Och-och, antar jag, 1792 01:17:08,711 --> 01:17:12,845 min största fråga är: Varför kan vi inte bara sluta? 1793 01:17:14,499 --> 01:17:19,069 Problemet med, eh, eh, "bara sluta" är det, um, 1794 01:17:19,112 --> 01:17:22,202 det finns många, många grupper nu runt om i världen, eh, eh, 1795 01:17:22,246 --> 01:17:25,684 bygga detta, för många nationer, många företag, 1796 01:17:25,728 --> 01:17:28,121 eh, alla med olika motiv. 1797 01:17:28,165 --> 01:17:30,776 Det finns några av dessa företag i detta utrymme 1798 01:17:30,820 --> 01:17:33,997 vem deras position är, "Vi vill ha att utveckla denna teknik 1799 01:17:34,040 --> 01:17:36,042 absolut så snabbt som möjligt." 1800 01:17:36,086 --> 01:17:40,046 Och även om vi kunde stifta lagar i USA och i Europa, 1801 01:17:40,090 --> 01:17:42,396 vi måste övertyga... 1802 01:17:42,440 --> 01:17:44,964 Xi Jinping och Vladimir Putin eller, du vet, 1803 01:17:45,008 --> 01:17:47,445 vem som än är vetenskaplig rådgivare är på deras sida. 1804 01:17:47,488 --> 01:17:49,229 Det kommer att bli riktigt svårt. 1805 01:17:49,273 --> 01:17:50,927 Jag tror att det är sant 1806 01:17:50,970 --> 01:17:53,581 att om två personer är på exakt samma plats, 1807 01:17:53,625 --> 01:17:55,888 eh, den som är villig att ta fler genvägar för säkerhet 1808 01:17:55,932 --> 01:17:58,064 borde typ "kom dit först." 1809 01:17:58,108 --> 01:18:01,067 Eh, men... 1810 01:18:01,111 --> 01:18:02,939 vi kan använda vårt ledarskap 1811 01:18:02,982 --> 01:18:05,985 att spendera mycket mer tid gör säkerhetstester. 1812 01:18:06,029 --> 01:18:07,987 DANIEL: Och vad händer om du tappar den? 1813 01:18:08,031 --> 01:18:09,597 Du får samtalet och du får reda på det 1814 01:18:09,641 --> 01:18:11,687 att du är nu, låt oss säga, sex månader efter. 1815 01:18:11,730 --> 01:18:14,254 -Vad-vad händer då? - Det beror på vem vi står bakom. 1816 01:18:14,298 --> 01:18:16,822 Om det är, typ, en kontradiktorisk regering, 1817 01:18:16,866 --> 01:18:18,824 det är nog riktigt illa. 1818 01:18:18,868 --> 01:18:21,348 Så låt oss säga att du får samtalet att Kina har en, 1819 01:18:21,392 --> 01:18:24,787 har ett rekursivt självförbättrande medel 1820 01:18:24,830 --> 01:18:27,180 eller något sånt som vi borde vara riktigt orolig. 1821 01:18:27,224 --> 01:18:29,226 Vad gör--vad-vad händer? 1822 01:18:30,967 --> 01:18:32,403 Um... 1823 01:18:35,406 --> 01:18:37,234 Det fallet skulle kräva... 1824 01:18:37,277 --> 01:18:40,672 det första steget skulle finnas att prata med den amerikanska regeringen. 1825 01:18:40,716 --> 01:18:42,935 Sam, litar du på regeringens förmåga att hantera 1826 01:18:42,979 --> 01:18:44,676 något sånt här? 1827 01:18:45,895 --> 01:18:47,766 Ja, det gör jag faktiskt. 1828 01:18:47,810 --> 01:18:49,550 Det finns andra saker som jag inte gör lita på att regeringen hanterar, 1829 01:18:49,594 --> 01:18:51,161 men just det scenariot, Jag tror att de skulle veta... 1830 01:18:51,204 --> 01:18:52,771 de-de-- ja. 1831 01:18:52,815 --> 01:18:54,425 DANIEL: När du har, som privata diskussioner 1832 01:18:54,468 --> 01:18:56,383 med de andra killarna vars fingrarna är på avtryckaren, 1833 01:18:56,427 --> 01:18:59,604 så att säga, um, gör de där privata diskussionerna 1834 01:18:59,647 --> 01:19:01,301 fyll dig med självförtroende 1835 01:19:01,345 --> 01:19:03,347 eller gör de dig, eh, mer orolig? 1836 01:19:03,390 --> 01:19:07,090 Jag menar, jag känner några av dem bättre än andra. 1837 01:19:07,133 --> 01:19:10,136 Jag har mer självförtroende i några av dem än jag har 1838 01:19:10,180 --> 01:19:12,356 i andra, du vet, som med, som med alla människor. 1839 01:19:12,399 --> 01:19:14,140 du vet, du tänker på, du vet, 1840 01:19:14,184 --> 01:19:15,838 barnen i din gymnasieskola klass eller något, eller hur? 1841 01:19:15,881 --> 01:19:18,275 Du vet, några av dem är du vet, riktigt söt. 1842 01:19:18,318 --> 01:19:20,407 Vissa av dem är välmenande men inte så effektivt. 1843 01:19:20,451 --> 01:19:22,366 Några av dem är, ni vet, mobbare. 1844 01:19:22,409 --> 01:19:23,759 Några av dem är det riktigt dåliga människor. 1845 01:19:23,802 --> 01:19:25,673 [stammar] Du-du typ verkligen, 1846 01:19:25,717 --> 01:19:27,066 man ser verkligen spridningen. 1847 01:19:27,110 --> 01:19:28,807 Du vet, är jag, är jag, är jag säker 1848 01:19:28,851 --> 01:19:30,548 som alla kommer att göra det rätta, 1849 01:19:30,591 --> 01:19:32,028 att allt kommer att lösa sig? 1850 01:19:32,071 --> 01:19:33,856 Nä, det är jag inte. 1851 01:19:33,899 --> 01:19:35,509 Och det finns-det finns ingenting Jag kan göra åt det, eller hur? 1852 01:19:35,553 --> 01:19:37,773 Du vet, allt jag kan göra är-är push för, 1853 01:19:37,816 --> 01:19:39,165 tryck på, du vet, 1854 01:19:39,209 --> 01:19:40,776 driva på regeringen att engagera sig. 1855 01:19:40,819 --> 01:19:42,647 Men i slutändan är jag bara en person där också. 1856 01:19:42,690 --> 01:19:44,127 det är-- det är-det är upp till oss alla 1857 01:19:44,170 --> 01:19:46,042 att driva på regeringen att engagera sig. 1858 01:19:46,085 --> 01:19:48,479 Det är nummer ett det-det tror jag att vi måste göra 1859 01:19:48,522 --> 01:19:50,916 till-till, du vet, att ställa saker i rätt riktning. 1860 01:19:50,960 --> 01:19:52,744 Det som gör mig orolig om det är typ 1861 01:19:52,788 --> 01:19:56,182 den grundläggande verkligheten som hastighet med vilken tekniken 1862 01:19:56,226 --> 01:19:58,402 sprider sig och växer är exponentiell, 1863 01:19:58,445 --> 01:20:01,448 och mekanismerna för att lagstifta är 300 år gamla, 1864 01:20:01,492 --> 01:20:02,928 -ta för evigt. -Ja. 1865 01:20:02,972 --> 01:20:05,104 Ehm, tror jag det kommer att bli ett tungt lyft. 1866 01:20:05,148 --> 01:20:06,889 Jag håller definitivt med med dig på det. 1867 01:20:06,932 --> 01:20:08,891 DANIEL: Du vet, vad jag bokstavligen letar efter 1868 01:20:08,934 --> 01:20:11,241 är-är som, "Här är steg som, som, 1869 01:20:11,284 --> 01:20:15,158 "huvudhonchosna kommer att göra det ta till för att fokusera på säkerhet, 1870 01:20:15,201 --> 01:20:18,117 för att mildra faran och maximera löftet." 1871 01:20:18,161 --> 01:20:20,119 Och det gör jag inte, Jag vet inte, jag vet inte 1872 01:20:20,163 --> 01:20:21,817 att det finns ett enkelt svar på det. 1873 01:20:21,860 --> 01:20:23,296 Um... 1874 01:20:25,951 --> 01:20:27,561 Jag menar, det här kanske är för enkelt, 1875 01:20:27,605 --> 01:20:30,173 men du... 1876 01:20:30,216 --> 01:20:31,957 skapa en ny modell, 1877 01:20:32,001 --> 01:20:34,786 du studerar och testar det mycket noggrant. 1878 01:20:34,830 --> 01:20:37,223 Du lägger ut det gradvis in i världen, 1879 01:20:37,267 --> 01:20:39,530 och sedan, mer och mer, du förstår 1880 01:20:39,573 --> 01:20:41,227 om det är säkert eller inte, och sedan om det är det, 1881 01:20:41,271 --> 01:20:42,707 du kan ta nästa steg. 1882 01:20:44,404 --> 01:20:47,103 Det låter inte lika flashigt som en briljant vetenskapsman 1883 01:20:47,146 --> 01:20:50,454 kommer på en idé i en labb för att göra ett AI-system, som, 1884 01:20:50,497 --> 01:20:53,979 helt säker och kontrollerbar och allt annat, 1885 01:20:54,023 --> 01:20:55,720 men det är vad jag tror kommer att hända. 1886 01:20:55,763 --> 01:20:57,287 Som, det är vägen Jag tror att det här fungerar. 1887 01:20:57,330 --> 01:20:59,289 Men låt oss bara säga något hemskt händer, 1888 01:20:59,332 --> 01:21:01,813 som en modell lossnar eller blir skurk eller något. 1889 01:21:01,857 --> 01:21:03,467 Finns det något protokoll? 1890 01:21:03,510 --> 01:21:05,817 Som, bokstavligen, Jag föreställer mig en röd telefon. 1891 01:21:05,861 --> 01:21:07,123 -Ja. -Förlåt för att jag tänker på det här 1892 01:21:07,166 --> 01:21:08,515 när det gäller filmer, men liksom... 1893 01:21:08,559 --> 01:21:09,995 Det finns ett protokoll. 1894 01:21:10,039 --> 01:21:11,475 -Finns det en röd telefon på ditt skrivbord? -Inga. 1895 01:21:11,518 --> 01:21:13,216 [skrattar]: Är det en hemlighet? 1896 01:21:13,259 --> 01:21:15,392 Jag menar, eh, nej, det är det inte, det är inte lika snyggt eller dramatiskt 1897 01:21:15,435 --> 01:21:17,176 som du vill hoppas, men det finns liksom, du vet-- 1898 01:21:17,220 --> 01:21:18,874 vi har liksom tänkt igenom dessa scenarier, 1899 01:21:18,917 --> 01:21:20,527 och om detta händer, vi kommer att ringa dessa människor 1900 01:21:20,571 --> 01:21:21,964 i denna ordning och gör så här 1901 01:21:22,007 --> 01:21:23,443 och typ av fabrikat dessa beslut om, som-- 1902 01:21:23,487 --> 01:21:26,055 Jag tror det när du har möjlighet 1903 01:21:26,098 --> 01:21:29,058 att tänka innan en stressig situation inträffar, 1904 01:21:29,101 --> 01:21:30,407 det är nästan alltid en bra idé. 1905 01:21:30,450 --> 01:21:31,756 Och att skriva ner det är bra. 1906 01:21:31,799 --> 01:21:33,279 – Att vara förberedd är till hjälp. -Ja. 1907 01:21:34,324 --> 01:21:36,021 [suckar] Du... 1908 01:21:36,065 --> 01:21:38,763 Det skulle vara omöjligt för att jag ska sitta mitt emot dig 1909 01:21:38,806 --> 01:21:41,157 och-och ber dig lova mig att det här kommer att gå bra? 1910 01:21:41,200 --> 01:21:43,855 Det är omöjligt. 1911 01:21:43,899 --> 01:21:45,683 Det finns inga enkla svar, tyvärr. 1912 01:21:45,726 --> 01:21:48,077 För att det är så en banbrytande teknik, 1913 01:21:48,120 --> 01:21:49,774 hm, det finns fortfarande många okända. 1914 01:21:49,817 --> 01:21:52,255 Och det tycker jag det-det måste vara, 1915 01:21:52,298 --> 01:21:55,040 eh, du vet, förstod 1916 01:21:55,084 --> 01:21:58,957 och-och därav behovet för, eh, eh, lite försiktighet. 1917 01:21:59,001 --> 01:22:00,872 Jag vaknar, du vet, varje dag, 1918 01:22:00,916 --> 01:22:03,440 detta är, det här är nummer ett jag tänker på. 1919 01:22:03,483 --> 01:22:05,137 Se nu, jag är människa, 1920 01:22:05,181 --> 01:22:08,358 och, du vet, har-har var alla beslut perfekta? 1921 01:22:08,401 --> 01:22:11,622 Kan jag ens säga mina motiveringar var alltid helt tydliga? 1922 01:22:11,665 --> 01:22:13,537 Naturligtvis inte. Det kan ingen säga. 1923 01:22:13,580 --> 01:22:16,366 Som, det är-så bara inte, liksom, du vet-- 1924 01:22:16,409 --> 01:22:18,629 det är det bara inte hur människor arbetar. 1925 01:22:18,672 --> 01:22:21,023 Vetenskapens historia brukar vara det, 1926 01:22:21,066 --> 01:22:23,547 på gott och ont, om något är möjligt att göra-- 1927 01:22:23,590 --> 01:22:26,985 och vi vet nu att AI är möjligt att göra - mänskligheten gör det. 1928 01:22:27,029 --> 01:22:29,727 Allt detta skulle hända. 1929 01:22:29,770 --> 01:22:32,295 Det här tåget kommer inte att sluta. 1930 01:22:32,338 --> 01:22:34,253 Du kan inte kliva framför tåget och stoppa det. 1931 01:22:34,297 --> 01:22:36,255 Du kommer bara att bli klämd. 1932 01:22:36,299 --> 01:22:38,388 ALTMAN: Jag menar, det är väldigt stressigt. 1933 01:22:39,606 --> 01:22:41,043 Du vet, det finns typ 1934 01:22:41,086 --> 01:22:42,653 en massa saker många av oss vet inte. 1935 01:22:42,696 --> 01:22:46,352 Jag tror historien av vetenskaplig upptäckt är 1936 01:22:46,396 --> 01:22:48,267 en av att inte veta det du inte vet 1937 01:22:48,311 --> 01:22:49,660 och ta reda på när du går. 1938 01:22:49,703 --> 01:22:52,968 Eh, men, ja, det är en... 1939 01:22:53,011 --> 01:22:56,580 det är ett stressigt sätt att leva. 1940 01:22:56,623 --> 01:22:58,756 DANIEL: Rätt. Sam, tack mycket för att du gör detta. 1941 01:22:58,799 --> 01:23:00,497 -Och igen, mazel tov. -Tack. Och till dig. 1942 01:23:00,540 --> 01:23:02,673 Tack så mycket. Tack, killar. 1943 01:23:02,716 --> 01:23:05,458 ♪ ♪ 1944 01:23:07,678 --> 01:23:08,984 [suckar] 1945 01:23:10,986 --> 01:23:13,162 [el sprakande] 1946 01:23:13,205 --> 01:23:15,599 -[åska spricker] -[väsande, grymtande] 1947 01:23:42,626 --> 01:23:44,628 -[VCR-klickar] -[linje ringer] 1948 01:23:47,848 --> 01:23:49,285 -[radklick] -KEVIN ROHER: Hej. 1949 01:23:49,328 --> 01:23:50,547 DANIEL: Hej pappa, hur mår du? 1950 01:23:50,590 --> 01:23:51,591 KEVIN: Bra. Hur mår du? 1951 01:23:51,635 --> 01:23:53,071 Jobbar du? Vad håller du på med? 1952 01:23:53,115 --> 01:23:55,247 DANIEL: Jag jobbar på den här AI-filmen. 1953 01:23:55,291 --> 01:23:57,815 KEVIN: Och hur går det? 1954 01:23:57,858 --> 01:24:00,426 DANIEL: Du vet, det... det är verkligen... 1955 01:24:00,470 --> 01:24:02,167 -JOANNE ROHER: Hej, sötnos. -DANIEL: Hej, mamma. 1956 01:24:02,211 --> 01:24:03,864 JOANNE: Så vad är det filmens premiss? 1957 01:24:03,908 --> 01:24:06,519 Är det en dokumentär? Kev, använd inga fler kryddor. 1958 01:24:06,563 --> 01:24:08,304 Det är redan överkryddat. 1959 01:24:08,347 --> 01:24:10,436 Vi lagar kyckling just nu. 1960 01:24:10,480 --> 01:24:12,612 -Är det en dokumentär eller vad... -DANIEL: Det handlar om-- 1961 01:24:12,656 --> 01:24:13,961 filmen handlar om världens ände. 1962 01:24:14,005 --> 01:24:15,789 Slutet på världens kommande, 1963 01:24:15,833 --> 01:24:17,574 och vi gör en film om världens ände. 1964 01:24:17,617 --> 01:24:19,837 -JOANNE: Verkligen? -DANIEL: Ja. 1965 01:24:19,880 --> 01:24:21,578 KEVIN: Lite deprimerande film låter det som. 1966 01:24:21,621 --> 01:24:23,449 JOANNE: Ja. 1967 01:24:23,493 --> 01:24:28,976 DANIEL: Jag känner mycket, som-- denna mycket akuta ångest. 1968 01:24:29,020 --> 01:24:31,370 JOANNE: Det är så läskigt, men det måste finnas-- 1969 01:24:31,414 --> 01:24:35,287 du vet, har ni träffats några supersmarta människor 1970 01:24:35,331 --> 01:24:37,768 som ger dig några svar? 1971 01:24:37,811 --> 01:24:39,465 DANIEL: Det är vad som är frustrerande över det. 1972 01:24:39,509 --> 01:24:41,337 Ingen vet. 1973 01:24:41,380 --> 01:24:43,904 JOANNE: Allt jag kan säga till det är det 1974 01:24:43,948 --> 01:24:49,867 varje generation har haft något sånt här läskigt. 1975 01:24:49,910 --> 01:24:52,217 KEVIN: När jag föddes var det det Kubakrisen. 1976 01:24:52,261 --> 01:24:54,263 [stadigt hjärtslag] 1977 01:24:54,306 --> 01:24:56,352 Jag var bara rädd för det där skulle bli ett kärnvapenkrig. 1978 01:24:56,395 --> 01:24:57,744 JOANNE: Ja, men vi visste inte 1979 01:24:57,788 --> 01:24:59,094 vad de skulle göra och... 1980 01:24:59,137 --> 01:25:00,530 KEVIN: Och världen tog inte slut. 1981 01:25:00,573 --> 01:25:01,618 Alla vaknade nästa morgon, 1982 01:25:01,661 --> 01:25:03,402 och vi gör fortfarande vår grej. 1983 01:25:03,446 --> 01:25:04,969 DANIEL: Jag är väldigt rädd, 1984 01:25:05,012 --> 01:25:06,840 speciellt i sammanhanget av, som, 1985 01:25:06,884 --> 01:25:09,147 -du vet, barnet och... -[foster hjärtslag pulserar] 1986 01:25:09,191 --> 01:25:10,540 KEVIN: Det kommer att bli en inlärningskurva. 1987 01:25:10,583 --> 01:25:12,063 JOANNE: Du kommer att bli okej. 1988 01:25:12,107 --> 01:25:13,064 KEVIN: Du kan inte, du kan inte tänka på 1989 01:25:13,108 --> 01:25:14,326 det du inte kan kontrollera, Daniel. 1990 01:25:14,370 --> 01:25:16,154 Kom bara ihåg det. 1991 01:25:16,198 --> 01:25:17,677 DANIEL [röst bryter]: Jag känner verkligen, jag känner verkligen 1992 01:25:17,721 --> 01:25:19,201 nervös och rädd för det. 1993 01:25:19,244 --> 01:25:21,028 Det finns så mycket som jag inte kan kontrollera. 1994 01:25:21,072 --> 01:25:23,857 KEVIN: Var inte nervös. Du kan inte låta det komma till dig. 1995 01:25:23,901 --> 01:25:26,251 Du kan bara styra vad du kan kontrollera, 1996 01:25:26,295 --> 01:25:27,905 och det är allt du kan göra. 1997 01:25:27,948 --> 01:25:30,603 Du kan inte göra mer än så. 1998 01:25:30,647 --> 01:25:32,649 Skriv ner det i din bok. 1999 01:25:35,347 --> 01:25:36,870 ♪ ♪ 2000 01:25:44,095 --> 01:25:46,663 [foster hjärtslag pulserar] 2001 01:25:46,706 --> 01:25:49,231 [yler] 2002 01:25:49,274 --> 01:25:51,581 CAROLINE: När du ser tillbaka, 2003 01:25:51,624 --> 01:25:54,453 världen tar alltid slut. 2004 01:25:54,497 --> 01:25:56,803 Och när man ser framåt, 2005 01:25:56,847 --> 01:25:59,241 världen tar alltid slut. 2006 01:25:59,284 --> 01:26:02,157 ...bränna. Ett hem brinner redan... 2007 01:26:02,200 --> 01:26:05,377 CAROLINE: Men världen startar alltid också. 2008 01:26:07,988 --> 01:26:09,947 DANIEL: Är du redo? 2009 01:26:09,990 --> 01:26:11,992 Är du någonsin verkligen redo? 2010 01:26:15,909 --> 01:26:17,650 DANIEL: Du vill köra eller vill du att jag ska köra? 2011 01:26:17,694 --> 01:26:18,782 CAROLINE: Du kör. 2012 01:26:20,479 --> 01:26:21,828 -[kvinna talar otydligt] -CAROLINE: Okej. 2013 01:26:21,872 --> 01:26:23,700 DANIEL: Tack, Maria. 2014 01:26:23,743 --> 01:26:26,268 KVINNAN: Det kommer bara känner mig riktigt krampig. 2015 01:26:26,311 --> 01:26:27,791 -CAROLINE: Okej. - KVINNAN: Är du redo? 2016 01:26:27,834 --> 01:26:29,053 -CAROLINE: Ja. -[otydligt prat] 2017 01:26:29,096 --> 01:26:30,924 [Caroline suckar tungt] 2018 01:26:30,968 --> 01:26:32,404 KVINNA: Du kan vara i en medicinskt drama med allt det där... 2019 01:26:33,840 --> 01:26:35,842 ♪ ♪ 2020 01:26:44,329 --> 01:26:45,896 -[statiskt sprakar] -[otydligt prat] 2021 01:26:49,116 --> 01:26:51,075 KVINNA: ...viss press. 2022 01:26:52,685 --> 01:26:54,078 Bara slappna av. 2023 01:26:56,907 --> 01:26:59,214 -[bebis som gråter] -[enheten piper] 2024 01:27:02,129 --> 01:27:04,915 DANIEL: Hej kompis. Åh. 2025 01:27:04,958 --> 01:27:06,438 Hej kompis. 2026 01:27:06,482 --> 01:27:08,484 ♪ ♪ 2027 01:27:31,202 --> 01:27:33,683 KEVIN: Det kommer att bli en helt ny värld 2028 01:27:33,726 --> 01:27:35,032 för dig, Daniel. 2029 01:27:37,208 --> 01:27:40,080 Och det tror jag att du kommer att bli en fantastisk pappa. 2030 01:27:41,517 --> 01:27:44,346 JOANNE [skratt]: Det är säkert. 2031 01:27:44,389 --> 01:27:46,609 -[Kevin gråter] -Åh. 2032 01:27:46,652 --> 01:27:48,654 [gråten fortsätter] 2033 01:27:48,698 --> 01:27:50,787 KEVIN: Du kommer att göra ett bra jobb. 2034 01:27:51,788 --> 01:27:53,050 JOANNE: Kev, varför gråter du? 2035 01:27:53,093 --> 01:27:54,617 KEVIN: Jag gråter för att... 2036 01:27:54,660 --> 01:27:57,054 Jag vet inte. jag bara inte... 2037 01:27:57,097 --> 01:27:59,317 DANIEL: Pappa, du kommer att göra det få mig att gråta också. 2038 01:27:59,361 --> 01:28:00,710 Varför gråter du? 2039 01:28:03,190 --> 01:28:05,497 KEVIN: Jag bara vet det du kommer att bli en fantastisk pappa. 2040 01:28:05,541 --> 01:28:07,107 DANIEL [gråter]: Jag kommer bara att bli en bra pappa 2041 01:28:07,151 --> 01:28:09,675 för jag hade en fantastisk pappa. 2042 01:28:09,719 --> 01:28:12,287 KEVIN: Jag blir känslomässig, det är allt. 2043 01:28:12,330 --> 01:28:13,679 JOANNE: Åh. 2044 01:28:13,723 --> 01:28:14,898 [lekfullt prat över video] 2045 01:28:14,941 --> 01:28:16,552 [över video]: Pojke, åh, pojke! 2046 01:28:16,595 --> 01:28:17,857 Herregud! 2047 01:28:18,902 --> 01:28:20,817 Titta på de där små fräcka. 2048 01:28:20,860 --> 01:28:24,777 Titta på de där små fräcka. Titta på de där små fräcka. 2049 01:28:24,821 --> 01:28:26,344 Ja. 2050 01:28:26,388 --> 01:28:28,433 DANIEL: Jag vet hur man avslutar den här filmen. 2051 01:28:29,478 --> 01:28:32,263 Bebisar. 2052 01:28:32,307 --> 01:28:35,266 -Slutet på filmen handlar om bebisar.-[tjatta över videor] 2053 01:28:35,310 --> 01:28:37,094 De är livsbejakande. 2054 01:28:37,137 --> 01:28:38,922 De är utmattande. 2055 01:28:38,965 --> 01:28:40,793 -[bebis skrattar] -De är roliga. 2056 01:28:40,837 --> 01:28:42,665 Och de är värda det. 2057 01:28:42,708 --> 01:28:46,451 Den här filmen handlar inte om en tekniks inre funktioner. 2058 01:28:46,495 --> 01:28:48,235 Det handlar inte om miljardärens vd:ar. 2059 01:28:48,279 --> 01:28:50,194 Det handlar inte om geopolitik. 2060 01:28:50,237 --> 01:28:53,589 Det handlar inte om det skrämmande framtiden eller världens ände, 2061 01:28:53,632 --> 01:28:55,678 för min värld har precis börjat. 2062 01:28:55,721 --> 01:28:57,375 Jag bygger en spjälsäng. 2063 01:28:57,419 --> 01:28:59,290 Just här, just nu. 2064 01:28:59,334 --> 01:29:00,465 [bebis kurrar] 2065 01:29:00,509 --> 01:29:02,337 AI kommer att förändra allt 2066 01:29:02,380 --> 01:29:05,601 på sätt för kraftfulla och komplicerat för oss att förstå. 2067 01:29:05,644 --> 01:29:08,952 Och det är inte framtiden för någon av oss att bestämma. 2068 01:29:10,736 --> 01:29:13,609 Men vad jag kan bestämma är att vara bästa möjliga make 2069 01:29:13,652 --> 01:29:17,700 för min fru och den bästa möjlig pappa för min son. 2070 01:29:17,743 --> 01:29:21,399 Så om vår AI-framtid är en mardrömslik dystopi 2071 01:29:21,443 --> 01:29:23,836 eller utopin som vi alla drömmer om, 2072 01:29:23,880 --> 01:29:26,883 Jag vet åtminstone att jag gjorde allt jag kunde 2073 01:29:26,926 --> 01:29:30,103 att vägleda min familj genom denna AI-revolution. 2074 01:29:30,147 --> 01:29:33,846 Och oavsett vad, vi kommer att möta det tillsammans. 2075 01:29:33,890 --> 01:29:35,195 [upplyftande musik sväller] 2076 01:29:35,239 --> 01:29:36,806 [musiken slutar abrupt] 2077 01:29:36,849 --> 01:29:40,505 DANIEL: Så det är bara vår första idé. 2078 01:29:40,549 --> 01:29:42,812 Hur känns det här? Känner du det här? 2079 01:29:42,855 --> 01:29:45,249 Vänta, jag-- liksom, det här är inte-- det här är ett skämt. 2080 01:29:45,292 --> 01:29:47,425 Det är det faktiskt inte hur du ska avsluta det. 2081 01:29:50,036 --> 01:29:52,648 Jag menar, det är bara en idé. Okej? 2082 01:29:52,691 --> 01:29:54,389 Nej, Daniel. 2083 01:29:54,432 --> 01:29:56,129 ... eh, väldigt, väldigt dumt. 2084 01:29:56,173 --> 01:29:58,915 Du har precis spenderat, det gör inte jag vet, typ, hur många år 2085 01:29:58,958 --> 01:30:02,571 av vårt liv som arbetar med detta, prata med alla ledande experter 2086 01:30:02,614 --> 01:30:04,964 på planeten om ämnet, 2087 01:30:05,008 --> 01:30:07,663 och du kommer att göra slut 2088 01:30:07,706 --> 01:30:10,796 med några som, kumbaya skitsnack? 2089 01:30:10,840 --> 01:30:13,495 Det finns en asteroid begav sig till jorden. 2090 01:30:13,538 --> 01:30:15,497 Vad gör du? Bara... 2091 01:30:15,540 --> 01:30:17,629 hålla händerna och hoppas det löser sig? 2092 01:30:17,673 --> 01:30:19,414 Absolut inte. 2093 01:30:19,457 --> 01:30:22,286 Vi måste-- det ha-- det måste vara... 2094 01:30:22,329 --> 01:30:24,419 Slutet måste... 2095 01:30:25,855 --> 01:30:27,900 CAROLINE: Okej, första sak: 2096 01:30:27,944 --> 01:30:31,426 AI är här, och det är här för att stanna. 2097 01:30:31,469 --> 01:30:32,905 Skiten är borta från hästen, 2098 01:30:32,949 --> 01:30:35,430 men hästen är det ska fortsätta skita. 2099 01:30:38,171 --> 01:30:39,651 [publiken jublar] 2100 01:30:39,695 --> 01:30:41,566 Du vet, en av de grundläggande historiens lagar 2101 01:30:41,610 --> 01:30:44,003 är det ingenting har verkligen en början 2102 01:30:44,047 --> 01:30:45,962 och ingenting har något slut. 2103 01:30:46,005 --> 01:30:47,703 Det bara fortsätter. 2104 01:30:47,746 --> 01:30:50,532 AI är inte i närheten dess fulla utveckling. 2105 01:30:50,575 --> 01:30:52,795 CAROLINE: Även om den nuvarande AI-bubblan spricker, 2106 01:30:52,838 --> 01:30:54,579 -Människor kommer aldrig att sluta -[noisemaker blåser] 2107 01:30:54,623 --> 01:30:57,539 bygga mer och mer kraftfull teknik. 2108 01:30:57,582 --> 01:30:59,410 HAO: Du kan välja att inte använda AI 2109 01:30:59,454 --> 01:31:02,239 eller delta i det, men det är det kommer att påverka dig ändå. 2110 01:31:02,282 --> 01:31:04,023 DANIEL: Okej, fantastiskt. Så vi är skruvade. 2111 01:31:04,067 --> 01:31:06,635 CAROLINE: Nej, det är vi inte på grund av en enkel sak. 2112 01:31:10,943 --> 01:31:12,989 Detta är inte oundvikligt. 2113 01:31:13,032 --> 01:31:15,208 Om vi bara kunde se det tydligt tillsammans, 2114 01:31:15,252 --> 01:31:18,342 det uppenbara svaret blir att välja något annat. 2115 01:31:18,385 --> 01:31:21,040 Vi måste mycket tydligt ändra spelet 2116 01:31:21,084 --> 01:31:23,129 från ett lopp till botten in i ett lopp mot toppen. 2117 01:31:23,173 --> 01:31:27,438 LEAHY: Problemet vi behöver solve är inte AI specifikt. 2118 01:31:27,482 --> 01:31:31,224 Det är den allmänna frågan hur vi bygger ett samhälle 2119 01:31:31,268 --> 01:31:33,879 som kan hantera kraftfull teknik. 2120 01:31:33,923 --> 01:31:35,359 För vi kommer att få 2121 01:31:35,402 --> 01:31:36,795 bara mer och mer kraftfull teknik. 2122 01:31:36,839 --> 01:31:39,668 CAROLINE: Vi måste uppgradera vårt samhälle, 2123 01:31:39,711 --> 01:31:41,496 och det första steget är kommer samman 2124 01:31:41,539 --> 01:31:43,367 -och krävande... -ALLA: Samordning. 2125 01:31:43,410 --> 01:31:47,023 Någon form av internationellt samarbete eller avtal om 2126 01:31:47,066 --> 01:31:48,503 vilka normerna ska vara. 2127 01:31:48,546 --> 01:31:49,895 Du vet, hur ska det de sätts in... 2128 01:31:49,939 --> 01:31:51,549 Som, äkta internationell diplomati 2129 01:31:51,593 --> 01:31:53,290 bland supermakterna. 2130 01:31:53,333 --> 01:31:56,293 Kineserna är lika oroliga om det som amerikanerna. 2131 01:31:56,336 --> 01:31:57,729 Jag tycker det är svårt, du vet, 2132 01:31:57,773 --> 01:31:59,514 i strömmen geopolitiskt klimat, 2133 01:31:59,557 --> 01:32:01,254 -men jag tror att det är nödvändigt. -RASKIN: Absolut. 2134 01:32:01,298 --> 01:32:04,693 På exakt samma sätt som sista gången som mänskligheten 2135 01:32:04,736 --> 01:32:09,611 utvecklat en teknik detta farliga... 2136 01:32:09,654 --> 01:32:12,396 ...som krävde en komplett, oöverträffad förändring 2137 01:32:12,439 --> 01:32:15,530 till vår världs struktur. 2138 01:32:15,573 --> 01:32:17,619 CAROLINE: Så vi måste göra det fullständigt, 2139 01:32:17,662 --> 01:32:20,883 oöverträffad förändring igen. 2140 01:32:20,926 --> 01:32:24,103 Du vet, vi-vi pratar med folk som arbetar på dessa AI-företag, 2141 01:32:24,147 --> 01:32:25,322 och de säger att de vill göra något annat, 2142 01:32:25,365 --> 01:32:26,628 men de behöver påtryckningar från allmänheten. 2143 01:32:26,671 --> 01:32:28,151 De behöver regeringen att göra något. 2144 01:32:28,194 --> 01:32:29,979 Så då åker vi till DC, och de säger, 2145 01:32:30,022 --> 01:32:31,850 "Tja, vi behöver Silicon Valley att göra något annorlunda. 2146 01:32:31,894 --> 01:32:33,635 Det är de som ska kom med skyddsräcken." 2147 01:32:33,678 --> 01:32:35,680 Och så pekar alla fingret på någon annan, 2148 01:32:35,724 --> 01:32:39,466 och vad de är överens om är att vi behöver påtryckningar från allmänheten 2149 01:32:39,510 --> 01:32:41,207 för något annat att hända. 2150 01:32:41,251 --> 01:32:42,818 Och det är vad du 2151 01:32:42,861 --> 01:32:44,254 och alla människor att se den här filmen kan göra. 2152 01:32:44,297 --> 01:32:45,298 CAROLINE: Vi måste hålla i ledarna 2153 01:32:45,342 --> 01:32:47,083 i våra regeringar 2154 01:32:47,126 --> 01:32:48,563 och ledarna för dessa företag ansvariga. 2155 01:32:48,606 --> 01:32:51,000 BOEREE: Vilket land du än befinner dig i, 2156 01:32:51,043 --> 01:32:52,871 låt dem veta that you're not happy 2157 01:32:52,915 --> 01:32:54,569 med nuvarande status quo. 2158 01:32:54,612 --> 01:32:57,093 Så ja, det är tråkigt att säga ring din kongressledamot. 2159 01:32:57,136 --> 01:32:59,356 Jag säger inte att du borde just do that, but, like, 2160 01:32:59,399 --> 01:33:00,923 det måste vi göra. 2161 01:33:00,966 --> 01:33:02,402 Som, vi måste få den inblandade regeringen. 2162 01:33:02,446 --> 01:33:03,839 DANIEL: So we just call them up and say, 2163 01:33:03,882 --> 01:33:05,971 "Hej, sluta Big Tech från att förstöra världen"? 2164 01:33:06,015 --> 01:33:08,887 CAROLINE: Nej, men det finns tons of really obvious, 2165 01:33:08,931 --> 01:33:10,672 raka saker vi kan vara krävande. 2166 01:33:10,715 --> 01:33:12,499 Vi behöver transparens. 2167 01:33:12,543 --> 01:33:14,240 Vi måste få ett slut på sekretessen som finns i dessa labb, 2168 01:33:14,284 --> 01:33:16,634 eftersom de bygger kraftfull teknik, 2169 01:33:16,678 --> 01:33:18,680 och allmänheten förtjänar att veta vad händer. 2170 01:33:18,723 --> 01:33:20,682 I slutändan, vi kommer att behöva oberoende, 2171 01:33:20,725 --> 01:33:23,249 objektiva tredje parter att utvärdera systemen. 2172 01:33:23,293 --> 01:33:27,036 Vi kan inte räkna med företagen att betygsätta sina egna läxor. 2173 01:33:27,079 --> 01:33:31,170 Om-om ett företag använder AI och-och har AI interagerar med dig, 2174 01:33:31,214 --> 01:33:34,957 det ska avslöja att du är det interagerar med ett AI-system. 2175 01:33:35,000 --> 01:33:38,613 Ja. Och vi behöver också ett system som gör företag 2176 01:33:38,656 --> 01:33:41,833 juridiskt ansvarig för AI-system som de producerar. 2177 01:33:41,877 --> 01:33:45,750 Vi måste se till att där är tester och säkerhetsstandarder 2178 01:33:45,794 --> 01:33:48,013 som gäller alla. 2179 01:33:48,057 --> 01:33:49,711 Vi behöver lite spelregler, 2180 01:33:49,754 --> 01:33:51,538 och vi måste fortsätta anpassa oss dessa regler 2181 01:33:51,582 --> 01:33:54,585 i den hastighet som tekniken utvecklas. 2182 01:33:54,629 --> 01:33:57,153 LEAHY: Det finns för närvarande mer reglering 2183 01:33:57,196 --> 01:33:59,285 på att sälja en smörgås till allmänheten 2184 01:33:59,329 --> 01:34:02,898 än det finns på att bygga potentiellt världsavslutande AGI. 2185 01:34:02,941 --> 01:34:04,682 CAROLINE: Och det sista är 2186 01:34:04,726 --> 01:34:07,598 att uppgradera oss själva. 2187 01:34:07,642 --> 01:34:09,731 Det här är liksom inte jobbet av, som, säkerhetsteamet 2188 01:34:09,774 --> 01:34:11,733 på ett givet labb, eller VD:n. 2189 01:34:11,776 --> 01:34:13,299 Så, liksom, det här är allas jobb. 2190 01:34:13,343 --> 01:34:14,779 Lämna det inte, liksom upp till AI-experterna. 2191 01:34:14,823 --> 01:34:16,955 Som, [pip] det. Som, det här är ögonblicket 2192 01:34:16,999 --> 01:34:19,262 att vi övergår från, typ, 2193 01:34:19,305 --> 01:34:21,525 mestadels mänsklig kognitiv kraft till, till exempel, AI kognitiv kraft, 2194 01:34:21,568 --> 01:34:23,092 och det påverkar alla, 2195 01:34:23,135 --> 01:34:24,833 och jag vill att folk ska vara det med i det samtalet. 2196 01:34:24,876 --> 01:34:26,878 Och jag skulle säga, om du tänker att AI kommer att döda oss alla, 2197 01:34:26,922 --> 01:34:28,488 du borde jobba inom AI-forskning 2198 01:34:28,532 --> 01:34:30,229 för att se till att det inte gör det, för du har 2199 01:34:30,273 --> 01:34:32,188 en enorm mängd agentur. 2200 01:34:32,231 --> 01:34:33,842 CAROLINE: Vem du än är, 2201 01:34:33,885 --> 01:34:35,844 du är en expert i din egen bransch, 2202 01:34:35,887 --> 01:34:39,151 i din egen skola, i din egen familj, 2203 01:34:39,195 --> 01:34:42,589 och det är upp till dig hur AI används i ditt liv. 2204 01:34:42,633 --> 01:34:44,983 Oavsett om du vill vara med din skolstyrelse 2205 01:34:45,027 --> 01:34:47,856 eller-eller om du vill fråga din arbetsgivare 2206 01:34:47,899 --> 01:34:49,379 hur de använder AI-teknik, 2207 01:34:49,422 --> 01:34:51,947 som att vi alla kan göra jobbet. 2208 01:34:51,990 --> 01:34:56,081 Många fackföreningar har varit det ganska effektiv på t.ex. 2209 01:34:56,125 --> 01:34:59,041 bestämmer hur de vill att interagera med dessa system. 2210 01:34:59,084 --> 01:35:02,697 -Sköterskeförbund, lärarförbund. -[otydlig skandering] 2211 01:35:02,740 --> 01:35:04,568 DANIELA AMODEI: Jag skulle älska om föräldrar överallt 2212 01:35:04,611 --> 01:35:06,135 gick till AI-företagen och sa, 2213 01:35:06,178 --> 01:35:08,006 "Hur kan du bli bättre på detta?" Inklusive oss. 2214 01:35:08,050 --> 01:35:11,183 Så jag grundade Encode Justice när jag var 15 år. 2215 01:35:11,227 --> 01:35:14,839 Vi är världens första och största armén av ungdomar 2216 01:35:14,883 --> 01:35:18,364 kämpar för människocentrerad artificiell intelligens. 2217 01:35:18,408 --> 01:35:21,019 Det spelar ingen roll vem du är, även de minsta åtgärderna hjälper, 2218 01:35:21,063 --> 01:35:23,935 och till och med konversation börjar är verkligen, verkligen värdefullt. 2219 01:35:23,979 --> 01:35:25,937 DANIEL: Så mitt jobb kan vara, typ 2220 01:35:25,981 --> 01:35:27,939 berätta för Bubby Lila om detta på middag? 2221 01:35:27,983 --> 01:35:29,767 CAROLINE: Ärligt talat, ja, det är en del av det. 2222 01:35:29,811 --> 01:35:31,638 Och vi måste göra 2223 01:35:31,682 --> 01:35:34,424 en massa saker som vi har inte ens tänkt på än. 2224 01:35:34,467 --> 01:35:36,034 Folk kommer att titta på allt som vi har beskrivit 2225 01:35:36,078 --> 01:35:37,253 och säg, "Det räcker inte." 2226 01:35:37,296 --> 01:35:38,950 Det viktiga är att krafterna 2227 01:35:38,994 --> 01:35:40,909 som fungerar mot lösningar 2228 01:35:40,952 --> 01:35:44,434 börja överträffa krafterna som arbetar mot lösningar. 2229 01:35:44,477 --> 01:35:46,392 Att göra världen bättre har alltid varit jobbigt. 2230 01:35:46,436 --> 01:35:47,829 Det har aldrig varit lätt. 2231 01:35:47,872 --> 01:35:49,961 Det har liksom funnits många taskiga saker 2232 01:35:50,005 --> 01:35:51,920 som har hänt i historien, och vi har haft-- 2233 01:35:51,963 --> 01:35:53,704 som folk har haft att ta itu med det, 2234 01:35:53,748 --> 01:35:56,794 och så har de rest sig och ändrade det. 2235 01:35:56,838 --> 01:36:00,319 Det finns ett vansinnigt antal utmaningar framför oss, 2236 01:36:00,363 --> 01:36:04,106 men om vi kan komma förbi dem, 2237 01:36:04,149 --> 01:36:08,066 vi kan låsa upp en framtid bortom vår vildaste fantasi. 2238 01:36:08,110 --> 01:36:10,416 CAROLINE: Vi måste gå ihop 2239 01:36:10,460 --> 01:36:14,246 och hitta vägen mellan löftet och faran. 2240 01:36:14,290 --> 01:36:16,422 Vi kan inte vara pessimister eller optimister. 2241 01:36:17,423 --> 01:36:19,425 Vi måste bli något nytt. 2242 01:36:21,732 --> 01:36:24,474 En vän till mig ringer mig en apokaloptimist. 2243 01:36:24,517 --> 01:36:26,041 "Apokaloptimist"? 2244 01:36:26,084 --> 01:36:28,260 Jag tror att det kan vara det mitt nya favoritord. 2245 01:36:28,304 --> 01:36:29,914 -[skrattar] -MAN: Kanske namnet på denna film. 2246 01:36:29,958 --> 01:36:31,263 -Det kan vara namnet av den här filmen. -[skratt] 2247 01:36:31,307 --> 01:36:34,179 -"Apokaloptimist." -"Apokaloptimist." 2248 01:36:34,223 --> 01:36:35,833 Ja. 2249 01:36:35,877 --> 01:36:37,269 Jag tror inte på undergång. 2250 01:36:37,313 --> 01:36:39,054 Jag tror på livets ande, 2251 01:36:39,097 --> 01:36:42,666 och det tror jag på livet om handlingsförmågan. 2252 01:36:42,709 --> 01:36:44,276 -[publiken sjunger] - Förmågan att relatera, 2253 01:36:44,320 --> 01:36:46,365 förmågan att känna. 2254 01:36:49,020 --> 01:36:50,979 -[otydligt uppdragsprat] -[hejar] 2255 01:36:51,022 --> 01:36:53,938 Vi måste dubbla mer och mer 2256 01:36:53,982 --> 01:36:57,028 på dessa kapaciteter som vi har som människor 2257 01:36:57,072 --> 01:37:00,118 att robotsystem kommer aldrig att ha. 2258 01:37:00,162 --> 01:37:04,296 Det är dags just nu att fatta de besluten om 2259 01:37:04,340 --> 01:37:07,473 hur man vägleder den och stödjer den snarare än att dela oss. 2260 01:37:07,517 --> 01:37:10,259 DANIEL: Det låter ungefär som uppfostra ett barn. 2261 01:37:10,302 --> 01:37:12,435 Det är vad som händer. Ja. 2262 01:37:12,478 --> 01:37:14,480 CAROLINE: AI kan ha mer rå intelligens 2263 01:37:14,524 --> 01:37:17,222 -än våra små mänskliga hjärnor, -[bebis skrattar] 2264 01:37:17,266 --> 01:37:21,052 men vi är så mycket mer än bara vår intelligens. 2265 01:37:21,096 --> 01:37:25,056 Intelligens är-är förmågan att lösa problem. 2266 01:37:25,100 --> 01:37:28,320 Visdom är förmågan att veta vilka problem som ska lösas. 2267 01:37:30,932 --> 01:37:33,717 [otydligt besättningsprat] 2268 01:37:33,760 --> 01:37:34,892 DANIEL: Det kan gå på ditt kylskåp. 2269 01:37:34,936 --> 01:37:36,198 [skrattar] 2270 01:37:36,241 --> 01:37:38,113 YUDKOWSKY: Så ge inte upp. 2271 01:37:38,156 --> 01:37:39,766 Det har mänskligheten gjort 2272 01:37:39,810 --> 01:37:42,160 svårare saker än så här i dess historia. 2273 01:37:43,553 --> 01:37:46,338 Det är bara svårt att övertyga människor som de borde. 2274 01:37:46,382 --> 01:37:48,645 ♪ ♪ 2275 01:37:51,474 --> 01:37:52,562 [ljudet sprakar] 2276 01:37:54,912 --> 01:37:56,827 DANIEL: Så, när jag började gör den här filmen, 2277 01:37:56,871 --> 01:37:58,437 Jag skulle säga att jag var, typ 2278 01:37:58,481 --> 01:38:00,918 i stort sett en cynisk skitstövel om hela det här. 2279 01:38:00,962 --> 01:38:03,094 Under kursen att göra filmen, 2280 01:38:03,138 --> 01:38:04,661 Jag har kommit att förstå att, liksom, 2281 01:38:04,704 --> 01:38:07,446 det är det enda vi kan inte vara det. 2282 01:38:07,490 --> 01:38:09,361 ...eller något annat vill du diskutera? 2283 01:38:09,405 --> 01:38:11,363 Nej. Jag tror att vi täckte mycket. 2284 01:38:11,407 --> 01:38:13,017 -Ja. [skratt] -MAN: Tack så mycket. 2285 01:38:13,061 --> 01:38:15,498 Tack. 2286 01:38:15,541 --> 01:38:16,891 DANIEL: Det här är ett problem som är större 2287 01:38:16,934 --> 01:38:19,067 än någon person. 2288 01:38:19,110 --> 01:38:21,547 Detta kommer att förändra världen sätt som vi inte förstår. 2289 01:38:21,591 --> 01:38:23,462 Det är allt sant. 2290 01:38:23,506 --> 01:38:25,551 -[skratt]: Okej. -[otydligt prat] 2291 01:38:25,595 --> 01:38:27,684 DANIEL: Men vad vi har byrå över 2292 01:38:27,727 --> 01:38:30,078 är vad vi gör åt det. 2293 01:38:30,121 --> 01:38:32,558 När frontier AI växer exponentiellt mer kapabel... 2294 01:38:32,602 --> 01:38:34,430 DANIEL: Och verkligheten 2295 01:38:34,473 --> 01:38:36,562 är det om vi bara bestämmer det är hopplöst, 2296 01:38:36,606 --> 01:38:39,000 då är det hopplöst. 2297 01:38:39,043 --> 01:38:40,740 ...för att stressa mindre på planeten jorden... 2298 01:38:40,784 --> 01:38:42,742 DANIEL: Men om du bestämmer dig 2299 01:38:42,786 --> 01:38:45,528 som du vill prova... 2300 01:38:46,790 --> 01:38:48,096 ...då försöker du. 2301 01:38:48,139 --> 01:38:49,967 Och det är svårt. 2302 01:38:51,273 --> 01:38:53,188 Men vet du vad? 2303 01:38:53,231 --> 01:38:56,278 Stora saker verkar omöjliga innan de faktiskt inträffar. 2304 01:38:58,149 --> 01:39:01,413 Men när de äntligen händer, 2305 01:39:01,457 --> 01:39:05,243 det beror på att miljontals människor vidtog miljontals åtgärder 2306 01:39:05,287 --> 01:39:07,550 för att få dem att hända. 2307 01:39:07,593 --> 01:39:10,292 Och så... 2308 01:39:10,335 --> 01:39:12,424 vi måste försöka. 2309 01:39:13,469 --> 01:39:14,905 [suckar tungt] 2310 01:39:21,129 --> 01:39:23,522 Det står för mycket på spel. 2311 01:39:23,566 --> 01:39:25,611 ♪ ♪ 2312 01:39:32,401 --> 01:39:34,664 [film sprakande] 2313 01:39:37,232 --> 01:39:41,236 Titta på de otroliga förändringarna vi har upplevt och överlevt 2314 01:39:41,279 --> 01:39:42,846 från stenåldern, 2315 01:39:42,889 --> 01:39:46,110 och ändå ännu större förändringar kommer fortfarande. 2316 01:39:46,154 --> 01:39:49,157 ["Blev borttappad av att försöka" av Son Lux spelar] 2317 01:40:18,403 --> 01:40:20,449 ♪ ♪ 2318 01:40:47,606 --> 01:40:50,174 ♪ Vad ska vi göra nu? ♪ 2319 01:40:50,218 --> 01:40:53,221 ♪ Vi har tappat det till att försöka ♪ 2320 01:40:53,264 --> 01:40:55,092 ♪ Vi har tappat det ♪ 2321 01:40:55,136 --> 01:40:56,746 ♪ Att försöka ♪ 2322 01:40:59,575 --> 01:41:02,230 ♪ Vad ska vi göra nu? ♪ 2323 01:41:02,273 --> 01:41:05,189 ♪ Vi har tappat det till att försöka ♪ 2324 01:41:05,233 --> 01:41:06,973 ♪ Vi har tappat det ♪ 2325 01:41:07,017 --> 01:41:08,714 ♪ Att försöka ♪ 2326 01:41:11,630 --> 01:41:14,111 ♪ Vad kan vi säga nu? ♪ 2327 01:41:14,155 --> 01:41:17,201 ♪ Våra munnar ljuger bara ♪ 2328 01:41:17,245 --> 01:41:18,637 ♪ Våra munnar ♪ 2329 01:41:18,681 --> 01:41:20,683 ♪ Bara ljuger ♪ 2330 01:41:25,122 --> 01:41:27,690 ♪ Vad kan vi säga nu? ♪ 2331 01:41:27,733 --> 01:41:30,823 ♪ Våra munnar ljuger bara ♪ 2332 01:41:30,867 --> 01:41:32,216 ♪ Våra munnar ♪ 2333 01:41:32,260 --> 01:41:34,218 ♪ Bara ljuger ♪ 2334 01:41:34,262 --> 01:41:36,264 ♪ ♪ 2335 01:42:01,071 --> 01:42:03,726 ♪ Ge efter och gå ut ♪ 2336 01:42:03,769 --> 01:42:06,685 ♪ Vi reser oss i de döende ♪ 2337 01:42:06,729 --> 01:42:08,209 ♪ Vi reser oss ♪ 2338 01:42:08,252 --> 01:42:10,211 ♪ I den döende ♪ 2339 01:42:13,127 --> 01:42:15,781 ♪ Ge efter och gå ut ♪ 2340 01:42:15,825 --> 01:42:18,654 ♪ Vi reser oss i de döende ♪ 2341 01:42:18,697 --> 01:42:20,221 ♪ Vi reser oss ♪ 2342 01:42:20,264 --> 01:42:22,223 ♪ I den döende ♪ 2343 01:42:25,051 --> 01:42:27,663 ♪ Ge efter och gå ut ♪ 2344 01:42:27,706 --> 01:42:30,666 ♪ Vi reser oss i de döende ♪ 2345 01:42:30,709 --> 01:42:32,233 ♪ Vi reser oss ♪ 2346 01:42:32,276 --> 01:42:34,148 ♪ I den döende ♪ 2347 01:42:37,107 --> 01:42:39,718 ♪ Ge efter och gå ut ♪ 2348 01:42:39,762 --> 01:42:42,591 ♪ Vi reser oss i de döende ♪ 2349 01:42:42,634 --> 01:42:43,809 ♪ Vi ♪ 2350 01:42:43,853 --> 01:42:45,898 ♪ ♪ 2351 01:43:15,580 --> 01:43:17,626 ♪ ♪ 2352 01:43:22,761 --> 01:43:25,286 ♪ Åh, åh, åh, åh, åh 2353 01:43:25,329 --> 01:43:26,983 ♪ Åh, oj, oj, oj ♪ 2354 01:43:27,026 --> 01:43:28,419 ♪ Åh, åh ♪ 2355 01:43:28,463 --> 01:43:31,379 ♪ Åh, åh, åh, åh, åh, åh 2356 01:43:31,422 --> 01:43:32,945 ♪ Åh, oj, oj, oj ♪ 2357 01:43:32,989 --> 01:43:34,382 ♪ Åh, åh ♪ 2358 01:43:34,425 --> 01:43:37,036 ♪ Åh, åh, åh, åh, åh, åh 2359 01:43:37,080 --> 01:43:39,648 ♪ Vad ska vi göra nu? ♪ 2360 01:43:39,691 --> 01:43:42,651 ♪ Vi har tappat det till att försöka ♪ 2361 01:43:42,694 --> 01:43:44,566 ♪ Vi har tappat det ♪ 2362 01:43:44,609 --> 01:43:46,307 ♪ Att försöka ♪ 2363 01:43:46,350 --> 01:43:49,005 ♪ Åh, åh, åh, åh, åh, åh 2364 01:43:49,048 --> 01:43:51,703 ♪ Vad ska vi göra nu? ♪ 2365 01:43:51,747 --> 01:43:54,706 ♪ Vi har tappat det till att försöka ♪ 2366 01:43:54,750 --> 01:43:56,578 ♪ Vi har tappat det ♪ 2367 01:43:56,621 --> 01:43:58,406 ♪ Att försöka. ♪ 2368 01:43:58,449 --> 01:44:00,451 ♪ ♪ 2369 01:44:23,126 --> 01:44:24,475 [låten slutar]